담쟁LM API
한국어 중심 언어 모델 담쟁LM을 내 프로그램에서 부르는 API예요. 대화 API는 OpenAI Chat Completions와 같은 모양이라, 이미 쓰던 OpenAI SDK에서 주소와 키만 바꾸면 돼요.
https://ai.ibcytb.com/v1빠른 시작
API 키를 받았다면 아래 중 하나를 그대로 실행해 보세요. DAMJAENG_API_KEY 자리에 받은 키를 넣습니다.
curl https://ai.ibcytb.com/v1/chat/completions \
-H "Authorization: Bearer $DAMJAENG_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "milkyway",
"messages": [{"role": "user", "content": "광합성을 쉽게 설명해 줘"}]
}'
# pip install openai
from openai import OpenAI
client = OpenAI(base_url="https://ai.ibcytb.com/v1", api_key="DAMJAENG_API_KEY")
res = client.chat.completions.create(
model="milkyway",
messages=[{"role": "user", "content": "광합성을 쉽게 설명해 줘"}],
)
print(res.choices[0].message.content)
import requests
res = requests.post(
"https://ai.ibcytb.com/v1/chat/completions",
headers={"Authorization": "Bearer DAMJAENG_API_KEY"},
json={"model": "milkyway", "messages": [{"role": "user", "content": "광합성을 쉽게 설명해 줘"}]},
timeout=300,
)
print(res.json()["choices"][0]["message"]["content"])
const res = await fetch('https://ai.ibcytb.com/v1/chat/completions', {
method: 'POST',
headers: { 'Authorization': `Bearer ${DAMJAENG_API_KEY}`, 'Content-Type': 'application/json' },
body: JSON.stringify({
model: 'milkyway',
messages: [{ role: 'user', content: '광합성을 쉽게 설명해 줘' }],
}),
});
const data = await res.json();
console.log(data.choices[0].message.content);
인증
모든 요청(모델 목록 제외)에 API 키를 Authorization 헤더로 넣어요.
Authorization: Bearer dj-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
API 키는 dj-로 시작해요. 키가 필요하면 담쟁LM 운영자(Ibcytb)에게 요청해 주세요. 운영자는 키마다 이름과 1분당 요청 수를 정해서 발급해요.
모델
model에 아래 id를 넣어요. lily·milkyway·cracker·ivy는 각각 릴리 3.5·밀키웨이 3.5·크래커 2.5·아이비 2.5를 가리켜요. [email protected]처럼 판을 고정할 수도 있어요. 이전 판은 lily@3·milkyway@3·cracker@2·ivy@2·lily@2·milkyway@2·cracker@1·ivy@1로 쓸 수 있어요.
| id | 이름 | 최대 출력 | 추론(think) |
|---|---|---|---|
lily, [email protected] | 담쟁LM 릴리 3.5 (가벼움) | 320 토큰 | 안 됨 |
milkyway, [email protected] | 담쟁LM 밀키웨이 3.5 (균형) | 1536 토큰 | 됨 |
cracker, [email protected] | 담쟁LM 크래커 2.5 (최고) | 1536 토큰 | 됨 |
lily@3 | 담쟁LM 릴리 3 | 320 토큰 | 안 됨 |
milkyway@3 | 담쟁LM 밀키웨이 3 | 1536 토큰 | 됨 |
lily@2 | 담쟁LM 릴리 2 | 320 토큰 | 안 됨 |
milkyway@2 | 담쟁LM 밀키웨이 2 | 640 토큰 | 됨 |
cracker@1 | 담쟁LM 크래커 1 | 640 토큰 | 됨 |
lily@1 | 담쟁LM 릴리 1 | 320 토큰 | 안 됨 |
milkyway@1 | 담쟁LM 밀키웨이 1 | 640 토큰 | 됨 |
ivy, [email protected] | 담쟁LM 아이비 2.5 (최상) | 1536 토큰 | 됨 |
cracker@2 | 담쟁LM 크래커 2 | 1536 토큰 | 됨 |
ivy@2 | 담쟁LM 아이비 2 | 1536 토큰 | 됨 |
ivy@1 | 담쟁LM 아이비 | 1536 토큰 | 됨 |
표는 이 페이지를 열 때 GET /v1/models로 지금 쓸 수 있는 모델을 받아 와서 채워요. 아직 학습 중인 모델은 목록에 나오지 않아요.
POST/v1/chat/completions
대화의 다음 답을 만들어요. OpenAI Chat Completions와 같은 요청과 응답 모양에, 담쟁LM만의 값 몇 가지가 더 있어요.
요청 본문
| 이름 | 형식 | 설명 | |
|---|---|---|---|
model | 문자열 | 필수 | 모델 id. 예: milkyway, lily@1 |
messages | 목록 | 필수 | {"role", "content"} 목록. role은 user, assistant, system. 마지막은 user여야 해요. content는 문자열이나 [{"type": "text", "text": "…"}] |
stream | 참/거짓 | 선택 | true면 글자 조각을 SSE로 보내요. 스트리밍 참고. 기본 false |
max_tokens | 정수 | 선택 | 답의 최대 토큰 수. 릴리는 1~320, 최신 밀키웨이·크래커·아이비는 1~1536, 이전 밀키웨이·크래커는 1~640. GET /v1/models의 max_output_tokens로 확인하세요. max_completion_tokens도 같은 뜻 |
temperature | 숫자 | 선택 | 0~2. 높을수록 다양하게, 0이면 늘 가장 확률 높은 토큰. 기본 릴리 0.7, 나머지 0.6 |
top_p | 숫자 | 선택 | 0.01~1. 기본 0.9 |
think | 참/거짓 | 선택 | 담쟁LM 추론(생각 과정) 켜기. 생각은 reasoning_content로 따로 와요. 릴리는 무시. 기본 false |
reasoning_effort | 문자열 | 선택 | 노력도: minimal(최소), low(낮음), medium(보통), high(높음), max(최대), ultra(울트라). 기본은 릴리 최대, 밀키웨이·크래커 높음, 아이비 보통. 최신 밀키웨이·크래커·아이비는 생각 예산을, 릴리·이전 소형 모델은 후보 검토량을 조절해요. 노력도만 명시하면 최소 외의 단계에서 생각을 켜며, think: false를 명시하면 생각을 끕니다. 높은 노력도가 정확성을 보장하지는 않아요. |
context | 문자열 | 선택 | 담쟁LM 답에 참고할 자료(문서, 검색 결과). 최대 6,000자. 참고 자료 넣기 |
auto_tools | 불리언 | 선택 | 담쟁LM 모델이 필요하다고 보거나 질문에 도구 이름이 있으면 묻지 않고 그 도구로 답해요 (ivy, ivy@1, milkyway, cracker). 쓴 도구는 damjaeng.tool 에 적혀요. 카톡 아이비봇 키는 기본으로 켜져 있어요. |
search | 문자열 | 선택 | 담쟁LM 서버가 웹검색을 해서 결과를 참고 자료로 넣어요. off(기본), auto(판단 모델이 검색이 필요하다고 볼 때만, 웹앱과 같은 규칙. 릴리와 context를 준 요청은 찾지 않음), on(늘 찾음). 아이비는 web_search 도구로 찾을지와 검색어를 스스로 정해요(on이면 처음에 꼭 한 번 찾고, 한 답에 최대 2번). 찾은 곳은 damjaeng.sources로 와요 |
응답
{
"id": "chatcmpl-f5f5f84981b74622912cf1a2",
"object": "chat.completion",
"created": 1792409926,
"model": "milkyway",
"choices": [{
"index": 0,
"message": {
"role": "assistant",
"content": "프랑스의 수도는 파리입니다.",
"reasoning_content": "…" // think 를 켰고 생각이 있을 때만
},
"finish_reason": "stop"
}],
"usage": { "prompt_tokens": 31, "completion_tokens": 6, "total_tokens": 37 },
"damjaeng": {
"model_name": "밀키웨이 3", // 실제로 답한 모델의 이름
"reliability": 0.588, // 답의 신뢰도 (0~1)
"finish": "stop",
"ms": 284,
"think": false,
"search": "auto",
"sources": [] // 서버가 찾은 곳 [{title, url, via}] (search 를 켰을 때)
}
}| 값 | 설명 |
|---|---|
finish_reason | stop: 답을 끝까지 씀. length: max_tokens나 문맥 한도에 닿아서 잘림 |
damjaeng.model_name | 실제로 답한 모델의 이름 (예: 릴리 1). lily처럼 판을 적지 않으면 그때의 최신 판이 답하니, 화면에 모델 이름을 보여 줄 때는 이 값을 쓰세요 |
damjaeng.reliability | 만든 토큰들의 평균 확률(기하평균). 0.45보다 낮으면 모델이 확신하지 못한 답이라 사실 확인을 권해요 |
damjaeng.finish | 더 자세한 끝난 이유. stop, length, loop(같은 말을 되풀이해서 멈추고 되풀이 부분을 뺐어요), cancelled |
damjaeng.ms | 답을 만드는 데 걸린 시간(밀리초) |
damjaeng.sources | 서버가 웹검색으로 찾아 참고 자료로 넣은 곳. 순서가 답 속 [웹:1], [웹:2] 번호와 같아요. via는 web 또는 wikipedia(웹검색이 막혔을 때) |
여러 턴 대화와 추론
res = client.chat.completions.create(
model="milkyway",
messages=[
{"role": "user", "content": "프랑스 수도는?"},
{"role": "assistant", "content": "프랑스의 수도는 파리예요."},
{"role": "user", "content": "거기서 가장 유명한 탑은?"},
],
max_tokens=200,
temperature=0.5,
extra_body={"think": True}, # 담쟁LM 전용 값은 extra_body 로
)
msg = res.choices[0].message
print(getattr(msg, "reasoning_content", None)) # 생각 과정
print(msg.content) # 답
curl https://ai.ibcytb.com/v1/chat/completions \
-H "Authorization: Bearer $DAMJAENG_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "milkyway",
"think": true,
"max_tokens": 200,
"messages": [
{"role": "user", "content": "프랑스 수도는?"},
{"role": "assistant", "content": "프랑스의 수도는 파리예요."},
{"role": "user", "content": "거기서 가장 유명한 탑은?"}
]
}'
스트리밍
"stream": true를 넣으면 답을 기다리지 않고 글자 조각을 받을 수 있어요. 형식은 OpenAI와 같은 Server-Sent Events예요. 줄마다 data: 뒤에 JSON 조각이 오고, 마지막은 data: [DONE]이에요.
data: {"id":"chatcmpl-…","object":"chat.completion.chunk","created":1792409926,"model":"milkyway","choices":[{"index":0,"delta":{"role":"assistant","content":""},"finish_reason":null}]}
data: {…,"choices":[{"index":0,"delta":{"reasoning_content":"3 곱하기 4는 "},"finish_reason":null}]}
data: {…,"choices":[{"index":0,"delta":{"content":"답은 11이에요."},"finish_reason":null}]}
data: {…,"choices":[{"index":0,"delta":{},"finish_reason":"stop"}],"usage":{"prompt_tokens":20,"completion_tokens":48,"total_tokens":68},"damjaeng":{"reliability":0.61,"finish":"stop","ms":3782,"think":true}}
data: [DONE]- 생각 과정은
delta.reasoning_content, 답은delta.content로 와요. - 마지막 조각에
usage와damjaeng이 붙어요. - 모델이 같은 말을 되풀이하면 서버가 멈추고
damjaeng.finish가loop가 돼요. 이미 보낸 조각에는 되풀이가 조금 들어 있을 수 있어서, 마지막 조각의damjaeng.final_content(되풀이를 뺀 답 전체)로 바꿔 보여 주세요. - 모델이 생각을 닫지 않은 채 끝나면, 생각 내용을 마지막에
content로 한 번 더 보내요.
stream = client.chat.completions.create(
model="milkyway",
messages=[{"role": "user", "content": "한국의 사계절을 소개해 줘"}],
stream=True,
)
for chunk in stream:
delta = chunk.choices[0].delta
if delta.content:
print(delta.content, end="", flush=True)
const res = await fetch('https://ai.ibcytb.com/v1/chat/completions', {
method: 'POST',
headers: { 'Authorization': `Bearer ${DAMJAENG_API_KEY}`, 'Content-Type': 'application/json' },
body: JSON.stringify({ model: 'milkyway', stream: true,
messages: [{ role: 'user', content: '한국의 사계절을 소개해 줘' }] }),
});
const reader = res.body.getReader();
const dec = new TextDecoder();
let buf = '';
for (;;) {
const { done, value } = await reader.read();
if (done) break;
buf += dec.decode(value, { stream: true });
let i;
while ((i = buf.indexOf('\n\n')) >= 0) {
const line = buf.slice(0, i); buf = buf.slice(i + 2);
if (!line.startsWith('data: ') || line === 'data: [DONE]') continue;
const chunk = JSON.parse(line.slice(6));
const text = chunk.choices[0].delta.content;
if (text) document.querySelector('#out').textContent += text;
}
}
참고 자료 넣기
문서나 검색 결과를 근거로 답하게 하려면 context에 넣어요. 담쟁LM은 아래 모양으로 학습했으니 그대로 맞추면 가장 잘 읽어요. 자료가 여럿이면 번호를 늘려 이어 붙여요.
[웹:1] 문서 제목 또는 파일 이름 본문 내용… [웹:2] 두 번째 자료 제목 본문 내용…
{
"model": "milkyway",
"context": "[웹:1] 회의록.txt\n10월 회의에서 출시일을 11월 3일로 정했다. 담당은 김민지.",
"messages": [{"role": "user", "content": "출시일이 언제로 정해졌어?"}]
}문맥 길이는 모델마다 달라요. 최신 밀키웨이·크래커·아이비는 8,192토큰, 릴리와 이전 소형 모델은 1,024토큰이에요. 긴 문서는 질문과 관련 있는 부분만 골라 넣는 게 좋아요.
POST/v1/judge
사용자 메시지를 보고 의도, 언어, 검색 필요 여부, 난이도를 판단해요. 값은 모델 로짓에서 나온 실제 확률이고, 형식은 TypeSafe AI의 Jev 형식(choice / noul / score)이에요.
| 이름 | 형식 | 설명 | |
|---|---|---|---|
model | 문자열 | 필수 | 판단할 모델 id |
input | 문자열 | 필수 | 판단할 사용자 메시지 (최대 4,000자) |
{
"object": "judgment",
"model": "milkyway",
"answers": {
"intent": {
"type": "choice", "choice": "daily", "confidence": 0.868,
"probabilities": { "daily": 0.952, "expert": 0.029, "dev": 0.005, "translate": 0.0, "knowledge": 0.013, "reasoning": 0.0 }
},
"language": {
"type": "choice", "choice": "ko", "confidence": 0.899,
"probabilities": { "ko": 0.945, "en": 0.032, "ja": 0.007, "zh": 0.011, … }
},
"needs_search": { "type": "noul", "noul": 0.14 },
"difficulty": {
"type": "score", "score": 1.202, "confidence": 0.632,
"legend": { "0": "아주 쉬움", "1": "쉬움", "2": "보통", "3": "어려움", "4": "아주 어려움" },
"probabilities": { "0": 0.007, "1": 0.826, "2": 0.133, "3": 0.028, "4": 0.006 }
}
}
}| 항목 | 형식 | 뜻 |
|---|---|---|
intent | choice | 질문 종류: daily(일상), expert(전문), dev(개발), translate(번역), knowledge(지식), reasoning(추론) |
language | choice | 메시지 언어: ko, en, ja, zh, ru, de, fr, es, it, pt, nl, pl, sv, uk, el, cs, other |
needs_search | noul | 웹검색이 필요한 정도 (0~1). 웹앱은 0.5 이상이면 검색해요 |
difficulty | score | 난이도 0~4의 기댓값 |
confidence | 숫자 | 확률이 한쪽에 얼마나 몰려 있는지 (0~1, 1이면 확실) |
POST/v1/title
채팅의 첫 메시지로 짧은 제목을 지어요. 늘 최신 릴리가 지어요.
// 요청 { "input": "파이썬 리스트 정렬하는 법 알려줘" } // 응답 { "object": "title", "model": "lily", "title": "파이썬 리스트 정렬하는 법" }
GET/v1/models 키 없이도 됨
지금 쓸 수 있는 모델 목록이에요. 하나만 보려면 GET /v1/models/{id}를 써요.
GET /v1/models/{id}/status는 지금 물으면 얼마나 걸릴지 알려 줘요. 추론을 켤 때는 ?think=1을 붙여요. @는 %40으로 써도 돼요.
{
"object": "model.status",
"id": "ivy",
"name": "아이비 2.5",
"queue": 2, // 앞에 있는 요청 수 (아이비·밀키웨이 3 이상·크래커 2 이상만 셈)
"loaded": true, // 모델이 켜져 있는지
"estimated_seconds": 98 // 최근 답 시간으로 낸 예상값
}{
"object": "list",
"data": [
{
"id": "milkyway",
"object": "model",
"created": 1792377480,
"owned_by": "ibcytb",
"name": "담쟁LM 밀키웨이 3",
"version": "3",
"tier": "균형",
"context_length": 8192,
"max_output_tokens": 1536,
"reasoning": true
}
]
}오류
오류는 OpenAI와 같은 모양으로 와요. message는 사람이 읽을 한국어 설명이에요.
{ "error": { "message": "'gpt-4' 모델이 없어요. 쓸 수 있는 모델: lily@1, milkyway, milkyway@1",
"type": "invalid_request_error", "code": "model_not_found", "param": "model" } }| 상태 | code | 언제 |
|---|---|---|
| 400 | invalid_json, missing_model, context_length_exceeded | 본문이 잘못됐거나 값이 범위를 벗어남, 메시지가 문맥 창보다 김 |
| 401 | missing_api_key, invalid_api_key | 키가 없거나 틀렸거나 폐기됨 |
| 404 | model_not_found, not_found | 없는 모델이나 주소 |
| 405 | method_not_allowed | POST 주소를 GET으로 부름 |
| 429 | rate_limited | 1분 요청 수를 넘김. 메시지에 몇 초 뒤에 다시 하면 되는지 나와요 |
| 500 | 없음 | 서버 오류. 잠시 뒤 다시 시도해 주세요 |
| 502, 530 | 없음 | AI 서버(운영자 PC)가 꺼져 있음 |
사용량 제한
키마다 최근 1분 동안의 요청 수를 셉니다. 기본값은 아래와 같고, 운영자가 키마다 다르게 정할 수 있어요.
| 엔드포인트 | 1분 최대 (기본) |
|---|---|
/v1/chat/completions | 20번 |
/v1/judge | 40번 |
/v1/title | 20번 |
서버는 한 번에 답 2개까지 동시에 만들어요. 더 몰리면 앞 요청이 끝날 때까지 기다려요.
알아 둘 점
- 답을 틀리거나 지어낼 수 있어요. 사실이 중요하면
context로 근거를 넣고 답을 확인해 주세요. 토큰 확률은 사실 여부를 보장하지 않아요. - 운영자의 PC에서 돌아가요. 아이비는 GPU, 최신 밀키웨이·크래커는 GPU 또는 CPU, 릴리와 이전 소형 모델은 CPU로 답해요. 처음에는 모델을 불러오느라 시간이 걸릴 수 있어요. PC가 꺼져 있거나 절전 중이면 응답하지 않아요.
- 문맥 길이는 모델마다 달라요. 질문, 이전 대화, 참고 자료, 답을 합친 길이예요.
GET /v1/models의context_length로 확인하세요. - 대화 내용을 저장하지 않아요. 서버 기록에는 시각, 접속 IP, 주소만 남아요.
- 웹앱용 내부 주소(
/api/…)는 바뀔 수 있어요. 프로그램에서는 이 문서의/v1주소만 써 주세요.
변경 기록
- 2026-11-04: 릴리·이전 판 모델이 답 후보를 고를 때, 이름을 묻지 않은 질문에 자기소개를 하거나 다른 이름으로 소개하는 후보는 고르지 않아요.
- 2026-11-04: 카카오톡 봇 질문(레거시 API·API2·StarLight·Iris,
FileStream.write같은 이름)에는 kbotdocs 문서를 찾아 참고 자료로 붙여요. 쓴 문서는damjaeng.sources에"via": "kbotdocs"로 나와요. 크래커 2.5·밀키웨이 3.5 는 봇 기본 틀을 더 배웠어요. - 2026-11-04: 크래커 2.5·아이비 2.5 공개. 릴리 3.5·밀키웨이 3.5 와 같은 서비스 지식과 kbotdocs 를 더 배웠어요. 이전 판은
cracker@2·ivy@2로 쓸 수 있어요. - 2026-11-03: 릴리 3.5·밀키웨이 3.5 공개. 담쟁LM 의 도구·기능·API·카카오톡 봇 명령어와 kbotdocs(카카오톡 봇 문서, 운영진 허락)를 더 배웠어요. 이전 판은
lily@3·milkyway@3로 쓸 수 있어요. - 2026-11-01: 낱말 뜻을 묻는 질문은 모든 모델이 우리말샘 등 국립국어원 사전을 먼저 참고해요. 쓴 자료는
damjaeng.sources에 나와요. 릴리 계열은 사전 뜻을 그대로 답해요. - 2026-10-31: 대기열과 예상 시간
GET /v1/models/{id}/status추가. - 2026-10-31: 답한 모델의 이름
damjaeng.model_name추가. - 2026-10-26: 모델별 이전 판 펼치기와 여섯 단계 노력도 추가. 온도는 무작위성 조절로 별도 유지하며, 웹의 '다른 답 보기'는 온도를 새로 무작위 선택해요.
- 2026-10-26: 릴리 3·밀키웨이 3·크래커 2·아이비 2 공개. 기본 모델 id는 최신 판을 가리키며, 판 번호를 붙인 id와 이전 판도 제공해요.
- 2026-11-01:
auto_tools추가. 아이비 1·2, 밀키웨이 3 이상, 크래커 2 이상이 질문에 맞는 도구를 묻지 않고 써요. - 2026-10-22: 아이비의
search를 도구 방식으로 바꿈. 아이비가 직접 검색어를 정해서, 긴 질문도 결과가 나와요. 도구를 쓰는 동안 조용하면: keepalive주석 줄이 와요(무시하면 돼요). - 2026-10-21: 아이비(
ivy) 추가 (생각이 길면 몇 분 걸리니stream: true를 권해요. 100초 동안 아무것도 안 오면 중간에서 끊길 수 있어요). 서버 웹검색search와 찾은 곳damjaeng.sources추가. - 2026-10-19:
/v1공개. 대화(스트리밍, 추론, 참고 자료), 판단 근거, 채팅 제목, 모델 목록. 모델 이름을 ChatGPT·Claude 처럼 "밀키웨이 2", "크래커 1" 로 표시.