llm.duolabs.co.kr

DUOLABS LLM

발급된 API 키로만 호출할 수 있습니다.

Ollama 앞에 세운 게이트웨이. 키로 인증하고, 모델·요청량·토큰을 정책으로 막고, 호출을 원장에 남긴다.

사양

인증: Bearer API 키
프로토콜: OpenAI 호환 · Ollama 네이티브
처리 위치: 자체 인프라
기록: 호출별 모델 · 토큰 · 지연

요청

chat.sh

$ curl https://llm.duolabs.co.kr/v1/chat/completions \
  -H "Authorization: Bearer dlk_live_…" \
  -H "content-type: application/json" \
  -d '{"model":"exaone3.5:2.4b","messages":[{"role":"user","content":"안녕"}]}'

base_url 을 이 주소로 지정하면 기존 OpenAI SDK 를 그대로 사용합니다.

요청이 지나는 길

키 확인없거나 틀리면 401
키 상태폐기·만료 401 · 정지된 테넌트 403
분당 요청넘으면 429 · retry-after: 60
토큰 쿼터일·월 상한을 다 쓰면 402
모델 허용키에 없는 모델이면 403
상류 호출스트리밍은 버퍼링 없이 흘려보낸다
원장 기록모델·토큰·지연 · 본문은 남기지 않는다

엔드포인트

POST/v1/chat/completionsOpenAI 호환 · SSE
POST/v1/embeddingsOpenAI 호환 · 1024차원
GET/v1/models키에 허용된 모델
POST/api/chatOllama 네이티브 · NDJSON
POST/api/embedOllama 네이티브
GET/api/tags모델 목록
GET/api/ps상주 모델
GET/api/health무인증