담쟁LM API
채팅으로

담쟁LM API

한국어 중심 언어 모델 담쟁LM을 내 프로그램에서 부르는 API예요. 대화 API는 OpenAI Chat Completions와 같은 모양이라, 이미 쓰던 OpenAI SDK에서 주소와 키만 바꾸면 돼요.

기본 주소https://ai.ibcytb.com/v1
인증Bearer API 키
형식JSON, 스트리밍은 SSE
문맥 길이최신 밀키웨이·크래커·아이비 8,192 토큰, 릴리·이전 소형 모델 1,024 토큰

빠른 시작

API 키를 받았다면 아래 중 하나를 그대로 실행해 보세요. DAMJAENG_API_KEY 자리에 받은 키를 넣습니다.

curl https://ai.ibcytb.com/v1/chat/completions \
  -H "Authorization: Bearer $DAMJAENG_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "milkyway",
    "messages": [{"role": "user", "content": "광합성을 쉽게 설명해 줘"}]
  }'
# pip install openai
from openai import OpenAI

client = OpenAI(base_url="https://ai.ibcytb.com/v1", api_key="DAMJAENG_API_KEY")
res = client.chat.completions.create(
    model="milkyway",
    messages=[{"role": "user", "content": "광합성을 쉽게 설명해 줘"}],
)
print(res.choices[0].message.content)
import requests

res = requests.post(
    "https://ai.ibcytb.com/v1/chat/completions",
    headers={"Authorization": "Bearer DAMJAENG_API_KEY"},
    json={"model": "milkyway", "messages": [{"role": "user", "content": "광합성을 쉽게 설명해 줘"}]},
    timeout=300,
)
print(res.json()["choices"][0]["message"]["content"])
const res = await fetch('https://ai.ibcytb.com/v1/chat/completions', {
  method: 'POST',
  headers: { 'Authorization': `Bearer ${DAMJAENG_API_KEY}`, 'Content-Type': 'application/json' },
  body: JSON.stringify({
    model: 'milkyway',
    messages: [{ role: 'user', content: '광합성을 쉽게 설명해 줘' }],
  }),
});
const data = await res.json();
console.log(data.choices[0].message.content);

인증

모든 요청(모델 목록 제외)에 API 키를 Authorization 헤더로 넣어요.

Authorization: Bearer dj-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

API 키는 dj-로 시작해요. 키가 필요하면 담쟁LM 운영자(Ibcytb)에게 요청해 주세요. 운영자는 키마다 이름과 1분당 요청 수를 정해서 발급해요.

키는 비밀번호처럼 다뤄 주세요. 웹페이지의 자바스크립트처럼 누구나 볼 수 있는 곳에 넣으면 다른 사람이 내 키로 요청할 수 있어요. 키가 새어 나갔다면 운영자에게 폐기를 요청하세요.

모델

model에 아래 id를 넣어요. lily·milkyway·cracker·ivy는 각각 릴리 3.5·밀키웨이 3.5·크래커 2.5·아이비 2.5를 가리켜요. [email protected]처럼 판을 고정할 수도 있어요. 이전 판은 lily@3·milkyway@3·cracker@2·ivy@2·lily@2·milkyway@2·cracker@1·ivy@1로 쓸 수 있어요.

id이름최대 출력추론(think)
lily, [email protected]담쟁LM 릴리 3.5 (가벼움)320 토큰안 됨
milkyway, [email protected]담쟁LM 밀키웨이 3.5 (균형)1536 토큰됨
cracker, [email protected]담쟁LM 크래커 2.5 (최고)1536 토큰됨
lily@3담쟁LM 릴리 3320 토큰안 됨
milkyway@3담쟁LM 밀키웨이 31536 토큰됨
lily@2담쟁LM 릴리 2320 토큰안 됨
milkyway@2담쟁LM 밀키웨이 2640 토큰됨
cracker@1담쟁LM 크래커 1640 토큰됨
lily@1담쟁LM 릴리 1320 토큰안 됨
milkyway@1담쟁LM 밀키웨이 1640 토큰됨
ivy, [email protected]담쟁LM 아이비 2.5 (최상)1536 토큰됨
cracker@2담쟁LM 크래커 21536 토큰됨
ivy@2담쟁LM 아이비 21536 토큰됨
ivy@1담쟁LM 아이비1536 토큰됨

표는 이 페이지를 열 때 GET /v1/models로 지금 쓸 수 있는 모델을 받아 와서 채워요. 아직 학습 중인 모델은 목록에 나오지 않아요.

POST/v1/chat/completions

대화의 다음 답을 만들어요. OpenAI Chat Completions와 같은 요청과 응답 모양에, 담쟁LM만의 값 몇 가지가 더 있어요.

요청 본문

이름형식설명
model문자열필수모델 id. 예: milkyway, lily@1
messages목록필수{"role", "content"} 목록. role은 user, assistant, system. 마지막은 user여야 해요. content는 문자열이나 [{"type": "text", "text": "…"}]
stream참/거짓선택true면 글자 조각을 SSE로 보내요. 스트리밍 참고. 기본 false
max_tokens정수선택답의 최대 토큰 수. 릴리는 1~320, 최신 밀키웨이·크래커·아이비는 1~1536, 이전 밀키웨이·크래커는 1~640. GET /v1/models의 max_output_tokens로 확인하세요. max_completion_tokens도 같은 뜻
temperature숫자선택0~2. 높을수록 다양하게, 0이면 늘 가장 확률 높은 토큰. 기본 릴리 0.7, 나머지 0.6
top_p숫자선택0.01~1. 기본 0.9
think참/거짓선택담쟁LM 추론(생각 과정) 켜기. 생각은 reasoning_content로 따로 와요. 릴리는 무시. 기본 false
reasoning_effort문자열선택노력도: minimal(최소), low(낮음), medium(보통), high(높음), max(최대), ultra(울트라). 기본은 릴리 최대, 밀키웨이·크래커 높음, 아이비 보통. 최신 밀키웨이·크래커·아이비는 생각 예산을, 릴리·이전 소형 모델은 후보 검토량을 조절해요. 노력도만 명시하면 최소 외의 단계에서 생각을 켜며, think: false를 명시하면 생각을 끕니다. 높은 노력도가 정확성을 보장하지는 않아요.
context문자열선택담쟁LM 답에 참고할 자료(문서, 검색 결과). 최대 6,000자. 참고 자료 넣기
auto_tools불리언선택담쟁LM 모델이 필요하다고 보거나 질문에 도구 이름이 있으면 묻지 않고 그 도구로 답해요 (ivy, ivy@1, milkyway, cracker). 쓴 도구는 damjaeng.tool 에 적혀요. 카톡 아이비봇 키는 기본으로 켜져 있어요.
search문자열선택담쟁LM 서버가 웹검색을 해서 결과를 참고 자료로 넣어요. off(기본), auto(판단 모델이 검색이 필요하다고 볼 때만, 웹앱과 같은 규칙. 릴리와 context를 준 요청은 찾지 않음), on(늘 찾음). 아이비는 web_search 도구로 찾을지와 검색어를 스스로 정해요(on이면 처음에 꼭 한 번 찾고, 한 답에 최대 2번). 찾은 곳은 damjaeng.sources로 와요
system 메시지는 쓰지 않아요. 담쟁LM은 정해진 시스템 문구로 학습돼서, 보낸 system 내용은 무시하고 모델 이름과 추론 켬·끔만 시스템 문구로 넣어요. 말투나 규칙은 user 메시지 안에 적어 주세요. 대화는 최근 7턴까지만 쓰고, 메시지 하나는 4,000자까지 읽어요.

응답

{
  "id": "chatcmpl-f5f5f84981b74622912cf1a2",
  "object": "chat.completion",
  "created": 1792409926,
  "model": "milkyway",
  "choices": [{
    "index": 0,
    "message": {
      "role": "assistant",
      "content": "프랑스의 수도는 파리입니다.",
      "reasoning_content": "…"          // think 를 켰고 생각이 있을 때만
    },
    "finish_reason": "stop"
  }],
  "usage": { "prompt_tokens": 31, "completion_tokens": 6, "total_tokens": 37 },
  "damjaeng": {
    "model_name": "밀키웨이 3",           // 실제로 답한 모델의 이름
    "reliability": 0.588,                // 답의 신뢰도 (0~1)
    "finish": "stop",
    "ms": 284,
    "think": false,
    "search": "auto",
    "sources": []                        // 서버가 찾은 곳 [{title, url, via}] (search 를 켰을 때)
  }
}
값설명
finish_reasonstop: 답을 끝까지 씀. length: max_tokens나 문맥 한도에 닿아서 잘림
damjaeng.model_name실제로 답한 모델의 이름 (예: 릴리 1). lily처럼 판을 적지 않으면 그때의 최신 판이 답하니, 화면에 모델 이름을 보여 줄 때는 이 값을 쓰세요
damjaeng.reliability만든 토큰들의 평균 확률(기하평균). 0.45보다 낮으면 모델이 확신하지 못한 답이라 사실 확인을 권해요
damjaeng.finish더 자세한 끝난 이유. stop, length, loop(같은 말을 되풀이해서 멈추고 되풀이 부분을 뺐어요), cancelled
damjaeng.ms답을 만드는 데 걸린 시간(밀리초)
damjaeng.sources서버가 웹검색으로 찾아 참고 자료로 넣은 곳. 순서가 답 속 [웹:1], [웹:2] 번호와 같아요. via는 web 또는 wikipedia(웹검색이 막혔을 때)

여러 턴 대화와 추론

res = client.chat.completions.create(
    model="milkyway",
    messages=[
        {"role": "user", "content": "프랑스 수도는?"},
        {"role": "assistant", "content": "프랑스의 수도는 파리예요."},
        {"role": "user", "content": "거기서 가장 유명한 탑은?"},
    ],
    max_tokens=200,
    temperature=0.5,
    extra_body={"think": True},   # 담쟁LM 전용 값은 extra_body 로
)
msg = res.choices[0].message
print(getattr(msg, "reasoning_content", None))  # 생각 과정
print(msg.content)                               # 답
curl https://ai.ibcytb.com/v1/chat/completions \
  -H "Authorization: Bearer $DAMJAENG_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "milkyway",
    "think": true,
    "max_tokens": 200,
    "messages": [
      {"role": "user", "content": "프랑스 수도는?"},
      {"role": "assistant", "content": "프랑스의 수도는 파리예요."},
      {"role": "user", "content": "거기서 가장 유명한 탑은?"}
    ]
  }'

스트리밍

"stream": true를 넣으면 답을 기다리지 않고 글자 조각을 받을 수 있어요. 형식은 OpenAI와 같은 Server-Sent Events예요. 줄마다 data: 뒤에 JSON 조각이 오고, 마지막은 data: [DONE]이에요.

data: {"id":"chatcmpl-…","object":"chat.completion.chunk","created":1792409926,"model":"milkyway","choices":[{"index":0,"delta":{"role":"assistant","content":""},"finish_reason":null}]}

data: {…,"choices":[{"index":0,"delta":{"reasoning_content":"3 곱하기 4는 "},"finish_reason":null}]}

data: {…,"choices":[{"index":0,"delta":{"content":"답은 11이에요."},"finish_reason":null}]}

data: {…,"choices":[{"index":0,"delta":{},"finish_reason":"stop"}],"usage":{"prompt_tokens":20,"completion_tokens":48,"total_tokens":68},"damjaeng":{"reliability":0.61,"finish":"stop","ms":3782,"think":true}}

data: [DONE]
  • 생각 과정은 delta.reasoning_content, 답은 delta.content로 와요.
  • 마지막 조각에 usage와 damjaeng이 붙어요.
  • 모델이 같은 말을 되풀이하면 서버가 멈추고 damjaeng.finish가 loop가 돼요. 이미 보낸 조각에는 되풀이가 조금 들어 있을 수 있어서, 마지막 조각의 damjaeng.final_content(되풀이를 뺀 답 전체)로 바꿔 보여 주세요.
  • 모델이 생각을 닫지 않은 채 끝나면, 생각 내용을 마지막에 content로 한 번 더 보내요.
stream = client.chat.completions.create(
    model="milkyway",
    messages=[{"role": "user", "content": "한국의 사계절을 소개해 줘"}],
    stream=True,
)
for chunk in stream:
    delta = chunk.choices[0].delta
    if delta.content:
        print(delta.content, end="", flush=True)
const res = await fetch('https://ai.ibcytb.com/v1/chat/completions', {
  method: 'POST',
  headers: { 'Authorization': `Bearer ${DAMJAENG_API_KEY}`, 'Content-Type': 'application/json' },
  body: JSON.stringify({ model: 'milkyway', stream: true,
    messages: [{ role: 'user', content: '한국의 사계절을 소개해 줘' }] }),
});
const reader = res.body.getReader();
const dec = new TextDecoder();
let buf = '';
for (;;) {
  const { done, value } = await reader.read();
  if (done) break;
  buf += dec.decode(value, { stream: true });
  let i;
  while ((i = buf.indexOf('\n\n')) >= 0) {
    const line = buf.slice(0, i); buf = buf.slice(i + 2);
    if (!line.startsWith('data: ') || line === 'data: [DONE]') continue;
    const chunk = JSON.parse(line.slice(6));
    const text = chunk.choices[0].delta.content;
    if (text) document.querySelector('#out').textContent += text;
  }
}

참고 자료 넣기

문서나 검색 결과를 근거로 답하게 하려면 context에 넣어요. 담쟁LM은 아래 모양으로 학습했으니 그대로 맞추면 가장 잘 읽어요. 자료가 여럿이면 번호를 늘려 이어 붙여요.

[웹:1] 문서 제목 또는 파일 이름
본문 내용…
[웹:2] 두 번째 자료 제목
본문 내용…
{
  "model": "milkyway",
  "context": "[웹:1] 회의록.txt\n10월 회의에서 출시일을 11월 3일로 정했다. 담당은 김민지.",
  "messages": [{"role": "user", "content": "출시일이 언제로 정해졌어?"}]
}

문맥 길이는 모델마다 달라요. 최신 밀키웨이·크래커·아이비는 8,192토큰, 릴리와 이전 소형 모델은 1,024토큰이에요. 긴 문서는 질문과 관련 있는 부분만 골라 넣는 게 좋아요.

POST/v1/judge

사용자 메시지를 보고 의도, 언어, 검색 필요 여부, 난이도를 판단해요. 값은 모델 로짓에서 나온 실제 확률이고, 형식은 TypeSafe AI의 Jev 형식(choice / noul / score)이에요.

이름형식설명
model문자열필수판단할 모델 id
input문자열필수판단할 사용자 메시지 (최대 4,000자)
{
  "object": "judgment",
  "model": "milkyway",
  "answers": {
    "intent": {
      "type": "choice", "choice": "daily", "confidence": 0.868,
      "probabilities": { "daily": 0.952, "expert": 0.029, "dev": 0.005, "translate": 0.0, "knowledge": 0.013, "reasoning": 0.0 }
    },
    "language": {
      "type": "choice", "choice": "ko", "confidence": 0.899,
      "probabilities": { "ko": 0.945, "en": 0.032, "ja": 0.007, "zh": 0.011, … }
    },
    "needs_search": { "type": "noul", "noul": 0.14 },
    "difficulty": {
      "type": "score", "score": 1.202, "confidence": 0.632,
      "legend": { "0": "아주 쉬움", "1": "쉬움", "2": "보통", "3": "어려움", "4": "아주 어려움" },
      "probabilities": { "0": 0.007, "1": 0.826, "2": 0.133, "3": 0.028, "4": 0.006 }
    }
  }
}
항목형식뜻
intentchoice질문 종류: daily(일상), expert(전문), dev(개발), translate(번역), knowledge(지식), reasoning(추론)
languagechoice메시지 언어: ko, en, ja, zh, ru, de, fr, es, it, pt, nl, pl, sv, uk, el, cs, other
needs_searchnoul웹검색이 필요한 정도 (0~1). 웹앱은 0.5 이상이면 검색해요
difficultyscore난이도 0~4의 기댓값
confidence숫자확률이 한쪽에 얼마나 몰려 있는지 (0~1, 1이면 확실)

POST/v1/title

채팅의 첫 메시지로 짧은 제목을 지어요. 늘 최신 릴리가 지어요.

// 요청
{ "input": "파이썬 리스트 정렬하는 법 알려줘" }

// 응답
{ "object": "title", "model": "lily", "title": "파이썬 리스트 정렬하는 법" }

GET/v1/models 키 없이도 됨

지금 쓸 수 있는 모델 목록이에요. 하나만 보려면 GET /v1/models/{id}를 써요.

GET /v1/models/{id}/status는 지금 물으면 얼마나 걸릴지 알려 줘요. 추론을 켤 때는 ?think=1을 붙여요. @는 %40으로 써도 돼요.

{
  "object": "model.status",
  "id": "ivy",
  "name": "아이비 2.5",
  "queue": 2,                 // 앞에 있는 요청 수 (아이비·밀키웨이 3 이상·크래커 2 이상만 셈)
  "loaded": true,             // 모델이 켜져 있는지
  "estimated_seconds": 98     // 최근 답 시간으로 낸 예상값
}
{
  "object": "list",
  "data": [
    {
      "id": "milkyway",
      "object": "model",
      "created": 1792377480,
      "owned_by": "ibcytb",
      "name": "담쟁LM 밀키웨이 3",
      "version": "3",
      "tier": "균형",
      "context_length": 8192,
      "max_output_tokens": 1536,
      "reasoning": true
    }
  ]
}

오류

오류는 OpenAI와 같은 모양으로 와요. message는 사람이 읽을 한국어 설명이에요.

{ "error": { "message": "'gpt-4' 모델이 없어요. 쓸 수 있는 모델: lily@1, milkyway, milkyway@1",
             "type": "invalid_request_error", "code": "model_not_found", "param": "model" } }
상태code언제
400invalid_json, missing_model, context_length_exceeded본문이 잘못됐거나 값이 범위를 벗어남, 메시지가 문맥 창보다 김
401missing_api_key, invalid_api_key키가 없거나 틀렸거나 폐기됨
404model_not_found, not_found없는 모델이나 주소
405method_not_allowedPOST 주소를 GET으로 부름
429rate_limited1분 요청 수를 넘김. 메시지에 몇 초 뒤에 다시 하면 되는지 나와요
500없음서버 오류. 잠시 뒤 다시 시도해 주세요
502, 530없음AI 서버(운영자 PC)가 꺼져 있음

사용량 제한

키마다 최근 1분 동안의 요청 수를 셉니다. 기본값은 아래와 같고, 운영자가 키마다 다르게 정할 수 있어요.

엔드포인트1분 최대 (기본)
/v1/chat/completions20번
/v1/judge40번
/v1/title20번

서버는 한 번에 답 2개까지 동시에 만들어요. 더 몰리면 앞 요청이 끝날 때까지 기다려요.

알아 둘 점

  • 답을 틀리거나 지어낼 수 있어요. 사실이 중요하면 context로 근거를 넣고 답을 확인해 주세요. 토큰 확률은 사실 여부를 보장하지 않아요.
  • 운영자의 PC에서 돌아가요. 아이비는 GPU, 최신 밀키웨이·크래커는 GPU 또는 CPU, 릴리와 이전 소형 모델은 CPU로 답해요. 처음에는 모델을 불러오느라 시간이 걸릴 수 있어요. PC가 꺼져 있거나 절전 중이면 응답하지 않아요.
  • 문맥 길이는 모델마다 달라요. 질문, 이전 대화, 참고 자료, 답을 합친 길이예요. GET /v1/models의 context_length로 확인하세요.
  • 대화 내용을 저장하지 않아요. 서버 기록에는 시각, 접속 IP, 주소만 남아요.
  • 웹앱용 내부 주소(/api/…)는 바뀔 수 있어요. 프로그램에서는 이 문서의 /v1 주소만 써 주세요.

변경 기록

  • 2026-11-04: 릴리·이전 판 모델이 답 후보를 고를 때, 이름을 묻지 않은 질문에 자기소개를 하거나 다른 이름으로 소개하는 후보는 고르지 않아요.
  • 2026-11-04: 카카오톡 봇 질문(레거시 API·API2·StarLight·Iris, FileStream.write 같은 이름)에는 kbotdocs 문서를 찾아 참고 자료로 붙여요. 쓴 문서는 damjaeng.sources 에 "via": "kbotdocs" 로 나와요. 크래커 2.5·밀키웨이 3.5 는 봇 기본 틀을 더 배웠어요.
  • 2026-11-04: 크래커 2.5·아이비 2.5 공개. 릴리 3.5·밀키웨이 3.5 와 같은 서비스 지식과 kbotdocs 를 더 배웠어요. 이전 판은 cracker@2·ivy@2로 쓸 수 있어요.
  • 2026-11-03: 릴리 3.5·밀키웨이 3.5 공개. 담쟁LM 의 도구·기능·API·카카오톡 봇 명령어와 kbotdocs(카카오톡 봇 문서, 운영진 허락)를 더 배웠어요. 이전 판은 lily@3·milkyway@3로 쓸 수 있어요.
  • 2026-11-01: 낱말 뜻을 묻는 질문은 모든 모델이 우리말샘 등 국립국어원 사전을 먼저 참고해요. 쓴 자료는 damjaeng.sources 에 나와요. 릴리 계열은 사전 뜻을 그대로 답해요.
  • 2026-10-31: 대기열과 예상 시간 GET /v1/models/{id}/status 추가.
  • 2026-10-31: 답한 모델의 이름 damjaeng.model_name 추가.
  • 2026-10-26: 모델별 이전 판 펼치기와 여섯 단계 노력도 추가. 온도는 무작위성 조절로 별도 유지하며, 웹의 '다른 답 보기'는 온도를 새로 무작위 선택해요.
  • 2026-10-26: 릴리 3·밀키웨이 3·크래커 2·아이비 2 공개. 기본 모델 id는 최신 판을 가리키며, 판 번호를 붙인 id와 이전 판도 제공해요.
  • 2026-11-01: auto_tools 추가. 아이비 1·2, 밀키웨이 3 이상, 크래커 2 이상이 질문에 맞는 도구를 묻지 않고 써요.
  • 2026-10-22: 아이비의 search를 도구 방식으로 바꿈. 아이비가 직접 검색어를 정해서, 긴 질문도 결과가 나와요. 도구를 쓰는 동안 조용하면 : keepalive 주석 줄이 와요(무시하면 돼요).
  • 2026-10-21: 아이비(ivy) 추가 (생각이 길면 몇 분 걸리니 stream: true를 권해요. 100초 동안 아무것도 안 오면 중간에서 끊길 수 있어요). 서버 웹검색 search와 찾은 곳 damjaeng.sources 추가.
  • 2026-10-19: /v1 공개. 대화(스트리밍, 추론, 참고 자료), 판단 근거, 채팅 제목, 모델 목록. 모델 이름을 ChatGPT·Claude 처럼 "밀키웨이 2", "크래커 1" 로 표시.