라우팅
내 계정으로 어떻게 나눌지
이미 가진 ChatGPT·Claude 좌석을 라우트 URL마다 정책으로 나눕니다. 첫 토큰이 클라이언트에 닿기 전에 페일오버합니다.
failover— 주 계정 다음 백업 순으로 시도balance— 건강한 계정에 라운드로빈prefer-primary— 주 좌석을 대략 80/20으로 우선fill-first— 한 좌석을 먼저 쓰고, 막히면 다음quota-first— 남은 한도가 더 많은 좌석을 우선 (동률이면 리셋이 빠른 쪽)reset-soon— 7d 창 기준 리셋이 가까운 좌석부터steward— 잔여×리셋 긴급도 점수 (OAuth 우선)
정책은 llms route로 고르고, 상태는 llms status에서 보면 됩니다.
API
이렇게 호출하면 돼요
OpenAI Chat Completions와 동일해요. 엔드포인트는 chat/completions 하나이고, 주소와 키만 맞추면 Cursor·에이전트·스크립트 모두 같은 방식으로 붙어요.
Base URL https://llms.goodtek.xyz/r/<slug>/v1
호출 POST …/chat/completions
인증 Authorization: Bearer sk-gt-…
OpenAI와 같아요. POST …/chat/completions에 messages를 보내면 됩니다. 웹 검색·이미지가 필요하면 같은 요청의 tools에 web_search / generate_image를 넣으면 되고, 별도 API는 없습니다.
-H "Authorization: Bearer sk-gt-…" \
-H "Content-Type: application/json" \
-d '{"model":"…","messages":[{"role":"user","content":"안녕"}]}'
더 자세한 내용은 API 문서를 봐 주세요.
정직하게
내 계정 · 공식 OAuth · 한도는 그대로
공식 OAuth로 당신이 소유한 계정만 연결합니다. 자격증명을 공유·재판매하지 않습니다. 공식 CLI로 “위장”하지 않으며, 프로바이더 한도와 ToS는 그대로 적용됩니다.
셀프 호스티드
내 서버에서 돌리고 싶다면
우리 클라우드 말고, 내 PC나 서버에서 직접 돌릴 수도 있어요. 오픈소스 openllms는 셀프호스트면 무제한·무료예요. Docker로 한 번에 올릴 수 있고, 도메인·보안·팀 운영은 직접 하시면 됩니다. 계정 연결과 상태 확인은 터미널(CLI)로 하면 돼요.
도움이 됐다면 GitHub에서 ★ Star 한 번만 눌러 주세요. 그게 제일 큰 응원이에요.
FAQ
자주 묻는 질문
llms가 뭔가요?
이미 내고있는 ChatGPT·Claude 구독비용으로 API를 쓰게 해 주는 중간 다리예요. 계정이 하나든 여러 개든(예: GPT 2개 + Claude 1개) 묶어 두면 호출은 주소 하나, 잔여량은 알아서 관리합니다.
계정은 어디서 관리하나요?
터미널(CLI)이에요. llms login · llms add · llms status · llms plan으로 연결·상태·플랜을 보면 됩니다.
클라우드랑 셀프호스트 차이는?
직접 돌리기 부담되면 클라우드를 쓰면 되고, 지금은 무료로 열어 두었어요. 내 서버면 openllms. 클라우드가 필요하다고 느끼면 터미널에서 llms signal로 알려 주세요.
서버를 직접 띄워야 하나요?
아니요. llms.goodtek.xyz를 그대로 쓰시면 됩니다. 직접 돌리고 싶을 때만 openllms를 쓰면 돼요.