고객 상담 보조
상담사가 답변을 쓰기 전에 초안을 먼저 띄웁니다. 상담사는 고치기만 하면 됩니다. 도입사 평균 처리 시간이 건당 4분 12초에서 2분 38초로 줄었습니다.
- 홈
- AI
- HubGPT 대화형 AI
HubGPT 대화형 AI
HubGPT 는 한국어를 1순위로 학습한 대화형 언어 모델입니다. 크기가 다른 세 모델을 준비해, 같은 API 로 목적에 맞는 것을 골라 쓸 수 있게 했습니다.
OVERVIEW
HubGPT 개요
번역된 영어 데이터가 아니라 한국어 원문으로 학습한 모델입니다.
많은 언어 모델이 영어로 먼저 학습한 뒤 한국어를 덧붙입니다. HubGPT 는 사전학습 단계부터 한국어 원문 비중을 54.2% 로 두고 시작했습니다. 그래서 존댓말 단계, 조사 생략, 줄임말, 지역 표현처럼 번역으로는 넘어오지 않는 것들을 비교적 자연스럽게 처리합니다.
모델은 세 가지 크기로 나뉩니다. 2B 는 휴대폰과 사내 서버에서 바로 돌릴 만큼 가볍고, 12B 는 대부분의 서비스가 쓰는 기본 모델이며, 70B 는 긴 문서를 통째로 읽고 추론해야 할 때 씁니다. 세 모델의 API 형식은 동일해서, 모델 이름만 바꾸면 코드 수정 없이 갈아탈 수 있습니다.
2026년 3월 기준 HubGPT API 는 하루 평균 3억 4,200만건 호출됩니다. 이 중 71.4% 가 12B, 19.8% 가 2B, 8.8% 가 70B 입니다. 대부분의 업무는 12B 로 충분하며, 70B 는 계약서 검토나 장문 보고서 분석처럼 문맥이 긴 작업에 몰려 있습니다.
82.4점한국어 종합 벤치 (70B)
3.42억건일 평균 API 호출
0.38초첫 토큰 지연 (12B)
4,200사도입 기업
SPECIFICATION
모델 3종 사양
같은 질문을 던져도 크기에 따라 속도와 비용이 크게 달라집니다.
| 항목 | HubGPT-2B | HubGPT-12B | HubGPT-70B |
|---|---|---|---|
| 파라미터 | 21억 | 124억 | 703억 |
| 컨텍스트 길이 | 8,192 토큰 | 32,768 토큰 | 131,072 토큰 |
| 첫 토큰 지연 (P50) | 0.11초 | 0.38초 | 0.92초 |
| 초당 생성 토큰 | 182 토큰 | 96 토큰 | 41 토큰 |
| 입력 1,000토큰 단가 | 0.6원 | 2.4원 | 11.0원 |
| 출력 1,000토큰 단가 | 1.2원 | 7.2원 | 33.0원 |
| 동시 요청 기본 한도 | 분당 1,200회 | 분당 600회 | 분당 120회 |
| 권장 용도 | 분류 · 태깅 · 짧은 응답 | 상담 · 요약 · 초안 작성 | 장문 분석 · 복합 추론 |
지연 시간은 판교 리전에서 입력 1,000토큰 기준으로 측정한 값이며 실제 환경에 따라 달라집니다.
BENCHMARK
한국어 벤치마크
자체 구축한 한국어 평가셋 5종으로 분기마다 다시 측정합니다.
| 지표 | 2B | 12B | 70B | 측정 방식 |
|---|---|---|---|---|
| 종합 한국어 이해 | 61.8 | 74.2 | 82.4 | 객관식 4,200문항 정답률 |
| 장문 독해 · 추론 | 48.3 | 68.9 | 79.6 | 2,000자 이상 지문 1,180문항 |
| 문서 요약 충실도 | 64.1 | 77.5 | 84.2 | 사람 평가 5점 척도 환산 |
| 지시 이행률 | 70.6 | 85.3 | 91.8 | 복합 조건 지시 900건 완수율 |
| 코드 생성 정확도 | 39.4 | 62.7 | 74.1 | 실행 통과 기준 620문항 |
점수는 절대적인 우열이 아니라 용도를 고르는 기준으로 보아야 합니다. 예를 들어 상품 문의를 유형별로 분류하는 작업은 2B 로도 지시 이행률 70.6점이면 충분하고, 비용은 12B 의 4분의 1 수준입니다. 반대로 계약서에서 위험 조항을 찾아내는 작업은 장문 독해 점수가 결정적이므로 70B 를 씁니다.
평가셋은 분기마다 30% 씩 새 문항으로 교체합니다. 같은 문제를 계속 쓰면 모델이 평가셋에 맞춰 좋아 보이는 착시가 생기기 때문입니다.
평가셋 문항과 채점 기준은 연구 목적에 한해 신청 후 열람할 수 있습니다.
USE CASES
활용 시나리오
도입 기업이 실제로 가장 많이 쓰는 네 가지 형태입니다.
붙이기 쉬운 곳부터 시작하십시오
처음부터 전사 도입을 노리면 대부분 중간에 멈춥니다. 성과를 숫자로 보여 줄 수 있는 좁은 업무 하나를 골라 4주 안에 붙여 보는 편이 낫습니다. 도입 기업 4,200곳의 평균 첫 적용 기간은 26일이었습니다.
- 첫 적용 업무 1위 : 고객 문의 자동 분류 (31.4%)
- 2위 : 내부 문서 검색과 요약 (24.8%)
- 3위 : 상담 응대 초안 생성 (19.2%)
- 4위 : 회의록 · 보고서 정리 (14.6%)
사내 문서 검색
규정 · 매뉴얼 · 과거 결재 문서를 임베딩해 두고 문장으로 묻습니다. 근거 문서 링크를 반드시 함께 돌려주므로 답변의 출처를 확인할 수 있습니다.
장문 문서 분석
13만 토큰까지 한 번에 읽습니다. 200쪽 분량 계약서에서 위약 조항과 자동 갱신 조항을 찾아 표로 정리하는 작업이 대표적입니다.
대량 분류 · 태깅
게시글 · 리뷰 · 문의를 수천만 건 단위로 나눕니다. 건당 비용이 0.1원 미만이라 규칙 기반 시스템을 대체하기에 부담이 적습니다.
API
API 호출 예시
표준 HTTPS 와 JSON 만 있으면 됩니다. 별도 SDK 없이도 붙일 수 있습니다.
키 하나로 세 모델 모두
발급받은 API 키 하나로 세 모델을 전부 호출할 수 있습니다. model 값만 바꾸면 되고, 요청과 응답 구조는 동일합니다. 스트리밍이 필요하면 stream 을 true 로 두면 서버 전송 이벤트로 토큰이 하나씩 내려옵니다.
- 엔드포인트 : api.linkhub.example.com
- 인증 : Bearer 토큰 (키는 콘솔에서 발급 · 회수)
- 요청 형식 : JSON · UTF-8
- 스트리밍 : Server-Sent Events 지원
- 재시도 : 429 · 5xx 응답에 지수 백오프 권장
채팅 완성 요청과 응답
POST /v1/chat/completions HTTP/1.1
Host: api.linkhub.example.com
Authorization: Bearer lh_live_9f2c4a7b1e8d
Content-Type: application/json
{
"model": "hubgpt-12b",
"messages": [
{"role": "system", "content": "너는 배송 문의를 처리하는 상담원이다. 3문장 이내로 답한다."},
{"role": "user", "content": "어제 주문한 상품 언제 도착하나요?"}
],
"temperature": 0.3,
"max_tokens": 512,
"stream": false
}
HTTP/1.1 200 OK
Content-Type: application/json
{
"id": "chatcmpl_7Q2m4X",
"model": "hubgpt-12b",
"created": 1773216840,
"choices": [
{
"index": 0,
"finish_reason": "stop",
"message": {
"role": "assistant",
"content": "주문번호를 알려주시면 정확한 도착 예정일을 확인해 드리겠습니다."
}
}
],
"usage": {"input_tokens": 84, "output_tokens": 29, "total_tokens": 113}
}
Host: api.linkhub.example.com
Authorization: Bearer lh_live_9f2c4a7b1e8d
Content-Type: application/json
{
"model": "hubgpt-12b",
"messages": [
{"role": "system", "content": "너는 배송 문의를 처리하는 상담원이다. 3문장 이내로 답한다."},
{"role": "user", "content": "어제 주문한 상품 언제 도착하나요?"}
],
"temperature": 0.3,
"max_tokens": 512,
"stream": false
}
HTTP/1.1 200 OK
Content-Type: application/json
{
"id": "chatcmpl_7Q2m4X",
"model": "hubgpt-12b",
"created": 1773216840,
"choices": [
{
"index": 0,
"finish_reason": "stop",
"message": {
"role": "assistant",
"content": "주문번호를 알려주시면 정확한 도착 예정일을 확인해 드리겠습니다."
}
}
],
"usage": {"input_tokens": 84, "output_tokens": 29, "total_tokens": 113}
}
SAFETY
안전장치
모델이 잘하는 것만큼 하지 말아야 할 것을 정하는 데 시간을 씁니다.
HubGPT 는 출시 전과 후 두 단계로 검증합니다. 출시 전에는 안전성 · 정렬팀 38명이 레드팀 훈련을 진행합니다. 2025년 한 해 동안 시도한 공격 프롬프트는 14만 2천건이었고, 이 가운데 정책을 통과시킨 2,840건은 전부 학습 데이터로 되돌려 보정했습니다.
출시 후에는 입력과 출력 양쪽에 필터를 둡니다. 입력 필터는 개인정보와 명백한 악용 요청을 걸러내고, 출력 필터는 유해 표현 · 근거 없는 단정 · 개인 식별 정보 노출을 검사합니다. 필터에 걸린 요청은 차단 사유 코드와 함께 반환되므로 개발자가 원인을 알 수 있습니다.
- 학습 데이터에서 개인정보 자동 제거 : 주민등록번호 · 계좌 · 연락처 패턴 8종
- 생성물 표기 : API 응답에 AI 생성 여부 메타데이터 포함
- 저장 정책 : 요청 · 응답 본문은 기본적으로 저장하지 않음 (선택 시 30일)
- 학습 제외 : 유료 API 로 들어온 데이터는 모델 학습에 쓰지 않음
정책 정의
허용 · 조건부 허용 · 금지 세 단계로 요청 유형 148가지를 미리 분류합니다. 의료 · 법률 · 금융 조언은 조건부 허용이며 반드시 전문가 상담 안내를 덧붙입니다.
레드팀 훈련
내부 전담팀과 외부 전문가가 우회 시도를 반복합니다. 분기마다 공격 시나리오를 갱신하며 신규 모델은 통과 없이 배포되지 않습니다.
이중 필터
입력 · 출력에 각각 필터를 적용합니다. 출력 필터의 오차단율은 0.31% 이며 분기마다 재조정합니다.
사후 모니터링
이용자 신고와 자동 탐지 결과를 매주 검토해 정책에 반영합니다. 2025년 정책 개정은 9회 있었습니다.
PRICING
요금제
쓴 만큼 내는 종량제가 기본이며, 사용량이 크면 약정 요금제로 내려갑니다.
| 요금제 | 월 기본료 | 포함 토큰 | 초과 단가 | 지원 |
|---|---|---|---|---|
| 개발자 | 무료 | 월 50만 토큰 | 종량제 단가 적용 | 문서 · 커뮤니티 |
| 스타터 | 9만원 | 월 1,200만 토큰 | 종량제 단가 100% | 메일 · 영업일 응답 |
| 비즈니스 | 48만원 | 월 8,000만 토큰 | 종량제 단가 82% | 메일 · 채팅 · 4시간 응답 |
| 엔터프라이즈 | 별도 협의 | 약정 물량 | 종량제 단가 61~74% | 전담 담당자 · 1시간 응답 |
| 전용 인스턴스 | 월 1,840만원~ | 무제한 (자원 한도 내) | 해당 없음 | 전담 담당자 · SLA 계약 |
전용 인스턴스는 GPU 자원을 고객사 전용으로 할당하는 방식입니다. 토큰 단위 과금이 없고 응답 지연이 안정적이라, 요청량이 하루 2,000만 토큰을 넘는 곳에서 주로 선택합니다. 공공기관과 금융권을 위한 사내망 설치형은 별도 검토를 거쳐 제공합니다.
요금 문의 : 02-0000-0000 · contact@example.com
링크허브의 기술을 먼저 써 보세요
Open API 신청부터 기업용 도입 상담까지 한 곳에서 진행됩니다.