llms

多个账户,
一个地址。

在服务端绑定 Claude、Codex 与 API 密钥,从 failover 到 quota-first 进行路由。客户端只需 route URL 与 sk-gt

goodtek 托管 · 不绑定特定 IDE

Product

托管的多账户 LLM 中枢。

llms 由 goodtek 运营。提供商账户、配额与故障转移留在服务端;调用方只看到一个 OpenAI / Anthropic 兼容端点。这是开箱即用的产品,而非自建栈。

  1. 01

    连接账户

    llms add 注册 OAuth 或 API 密钥。密钥只存在服务器保险库。

  2. 02

    发布路由

    选择预设即可得到固定 URL。之后改策略也不用动客户端配置。

  3. 03

    接入工具

    IDE、CLI、机器人或脚本——填入 Base URL 与 sk-gt 即可。

Routing

真正可选的路由预设。

llms route create 中选择五种预设之一。在 429/鉴权失败提交前,缓冲到 TTFT 再切换下一账户。

failover
sequential

按顺序尝试账户。1 号受阻则用 2 号。工作/个人备份最常见。

推荐
balance
round_robin

按请求轮转账户。额度相近时均匀消耗。

均衡
prefer-primary
weighted 80/20

主账户用得多、辅账户偶尔用。软偏好,而非硬备份。

加权
quota-first
quota_aware

优先剩余 % 更高的账户。适合 Codex 等多订阅可见额度的池。

线上在用
parallel
race · API-key only

并行竞速健康 API 密钥账户,取首个 TTFT。默认排除 OAuth/订阅账户。

可选

线上示例路由:codex-quota-firstopenrouter-direct · URL 形态 /r/<slug>/v1

Quota

剩余量直接上看板。

连接后,首页与 status 显示各账户剩余 % 与重置时间。路由前先看余量;耗尽会显示 cooldown。

如何查看

仅看缓存:llms status。重新读取提供商 usage:--refresh

  • Codex / Claude OAuth — 提供商 usage API 写入 quota_remaining_pctquota_reset_at
  • API 密钥账户 — 基于 soft-cap 的用量启发式 %
  • 冷却 — 429 等会显示在看板并短暂移出池
$ llms status --refresh
codex:goodtek   ● ok   quota 91% ████████░░ reset ~5d
codex:technfin ● ok   quota 62% ██████░░░░ reset ~5d
status board
WHAT YOU SEE
health ● / ○ / ✖ ok · cooldown · error
quota bar 0–100% remaining headroom
reset ~Nd provider window
routes strategy slug → /r/…/v1

Attach

客户端需要知道的全部。

不必事先决定用哪款应用。只要工具接受 OpenAI 兼容(或 Anthropic Messages)Base URL,用法相同。

Base URL https://llms.goodtek.xyz/r/<slug>/v1 API Key sk-gt-…  (llms route key)

人类安装:install · 机器:/install.md · /install.sh

FAQ

常见问题

以便搜索与回答引擎准确引用。

llms 是什么?

goodtek 托管的多账户 LLM 中枢。提供商账户留在服务端,客户端只需 route URL 与 sk-gt。

有哪些路由预设?

failover(顺序)、balance(轮询)、prefer-primary(加权 80/20)、quota-first(剩余 % 优先)、parallel(API 密钥竞速)。

如何查看剩余配额?

llms status 看缓存;llms status --refresh 重新读取 Codex/Claude OAuth usage。

能接哪些客户端?

任何接受 OpenAI 兼容或 Anthropic Messages Base URL 的 IDE、CLI、机器人或脚本,不绑定特定应用。

需要自建吗?

不需要。产品托管在 https://llms.goodtek.xyz。