한눈에 보기
- 무엇: d3는 글·이미지·영상을 넣고 질문을 주면 “고르기·예/아니요·점수” 답과 각 답의 확률을 한 번에 돌려주는 결정 모델이에요. 긴 글을 생성하지 않아요(공식, 모델 카드).
- 누가: 오픈소스 라우터 프로젝트 vLLM Semantic Router 팀이 Decision 3.0이라는 이름으로 내놨어요(공식, 허깅페이스).
- 언제: 허깅페이스 저장소는 10월 10일(미국 시간) 만들어졌어요(공식, 허깅페이스 API).
- 얼마: Apache-2.0 라이선스의 개방 가중치라 무료로 받아 쓸 수 있어요(공식, 모델 카드).
- 크기: 27B(d3)부터 9B(flash), 4B(mini), 2B(nano), 0.8B(lite), 0.6B(edge)까지 있어요(공식, 모델 카드).
d3는 “이 문의를 어느 팀에 보낼까”, “영수증이 있나”, “얼마나 급한가” 같은 질문에 문장 대신 정해진 답과 확률로 답하는 모델이에요. 모델 카드는 여러 질문을 한 번 호출로 답하고, 모든 답에 확률을 붙인다고 설명해요(공식, 모델 카드).
이런 결정 모델은 챗봇처럼 말을 지어내지 않고, 소프트웨어가 바로 받아 다음 동작으로 넘길 수 있는 답을 내요. 같은 종류의 Cloudflare 모델은 Cloudflare Clef 결정 모델 글에서 볼 수 있어요.
무엇을 넣고 무엇을 받나요?
입력은 글이나 JSON이고, 이미지와 영상을 여러 개 붙일 수 있어요. 질문 종류는 세 가지예요. 여러 보기 중 하나를 고르는 Choice, 예/아니요를 고르는 Yes/No, 단계로 매기는 Score예요(공식, 모델 카드).
모델 카드 예시는 “주문한 물건이 깨져 왔고 영수증이 있다”는 문의를 넣고, 담당 팀(반품·결제·기술), 영수증 유무, 긴급도를 한꺼번에 묻는 식이에요. 영상은 초당 2프레임, 최대 32프레임까지 읽는다고 적혀 있어요(공식, 모델 카드).
모델 크기별로 무엇이 다른가요?
| 모델 | 매개변수 | Jev Decision Index 0.3.1(모델 카드 인용) | 글만 넣었을 때 응답 시간 중앙값(회사 측정) |
|---|---|---|---|
| d3 | 26.09B | 64.7 | 55ms |
| d3-flash | 8.39B | 59.0 | 19.1ms |
| d3-mini | 4.54B | 54.2 | 17.5ms |
| d3-nano | 2.21B | 37.2 | 12.9ms |
| d3-edge | 0.59B | 18.0 | 6.7ms |
응답 시간은 AMD Instinct MI325X GPU 한 장에서 요청을 하나씩 보냈을 때 회사가 잰 값이에요(공식, 모델 카드). 0.8B인 d3-lite도 함께 올라와 있어요(공식, 허깅페이스). 기본 모델은 큐원(Qwen) 계열이에요. d3는 Qwen3.8-27B, 작은 모델들은 Qwen3.5 계열을 바탕으로 했다고 적혀 있어요(공식, 모델 카드).
Jev Decision Index 64.7은 어떻게 읽어야 하나요?
모델 카드는 d3가 Jev Decision Index 0.3.1에서 64.7점으로, 함께 실은 Perplexity Decider v1.1(62.8), Fastino GLiDE(60.2), Jev(60.1)보다 높다고 적어요(모델 카드 인용). 이전 세대 Decision 2.0(27B)은 55.9점이었어요(모델 카드 인용).
다만 읽을 때 조심할 점이 있어요. 표 아래 각주에 d3 점수는 “내부 평가”, 다른 모델은 10월 10일 기준 리더보드 값이라고 적혀 있어요(공식, 모델 카드). 같은 카드의 다른 곳에는 0.3 버전 공개 문제 기준 65.45점이 따로 나와, 버전과 범위에 따라 숫자가 달라요(공식, 모델 카드). 이 지표를 누가 운영하는지와 독립 재현 결과는 모델 카드에서 확인되지 않았어요.
어떻게 써 보나요?
파이썬 transformers로 바로 불러 쓸 수 있고, vLLM Semantic Router의 Engine 모드로 내 컴퓨터에 서버를 띄울 수도 있어요(공식, 모델 카드). 모델 카드가 안내하는 서버 실행 명령은 아래와 같아요. 문구는 그대로 옮겼어요.
vllm-sr serve -e vllm-sr/d3이 Engine 모드와 Decision 3.0은 아직 개발 채널(--channel dev)에서만 쓸 수 있다고 적혀 있어요(공식, 모델 카드). AIMAG는 직접 실행해 보지 않았어요.
한국 이용자에게는 어떤 의미가 있나요?
고객센터 문의 분류, 게시물 검수, 에이전트가 다음 단계로 넘어가도 되는지 판단하는 일처럼 “정해진 답 중 고르기”가 많은 국내 서비스 개발자에게 직접 돌려 볼 수 있는 무료 선택지가 생겼어요(추정). 다만 모델 카드의 평가는 영어 기준으로 보이고, 한국어 성능은 따로 나와 있지 않아요.
대단한 점과 아쉬운 점
| 대단한 점 | 아쉬운 점·우려 |
|---|---|
| 글·이미지·영상을 한 모델로 받아 결정과 확률을 함께 줘요(공식, 모델 카드). | d3 점수는 내부 평가이고, 비교 대상은 리더보드 값이라 같은 조건 비교라고 보기 어려워요(공식, 모델 카드 각주). |
| 0.6B부터 27B까지 크기를 골라 속도와 정확도를 맞출 수 있어요(공식, 모델 카드). | 작은 모델은 점수가 크게 떨어져요. d3-edge는 18.0점이에요(모델 카드 인용). |
| Apache-2.0이라 상업적으로 쓰기 쉬워요(공식, 모델 카드). | 서버 실행 기능은 아직 개발 채널이에요(공식, 모델 카드). |
| 텍스트 요청 응답 시간 중앙값이 55ms로 짧다고 회사가 밝혀요(회사 측정). | 측정 장비가 AMD MI325X라, 일반 GPU에서의 속도는 따로 확인해야 해요. |
확장성
vLLM Semantic Router는 요청을 어떤 모델로 보낼지 정하는 라우터 프로젝트라, d3는 라우팅·검수·에이전트 단계 판단에 붙이기 좋은 구조예요(추정). 여러 MCP 서버와 도구를 한 관문으로 묶는 흐름은 우버 MCP 게이트웨이 글에서 다뤘어요.
아직 모르는 것
- 한국어 입력에서 정확도가 얼마나 나오는지는 공개되지 않았어요.
- Jev Decision Index를 누가 운영하는지, 외부에서 d3 점수를 재현했는지는 확인되지 않았어요.
- 개발 채널 기능이 언제 정식 릴리스에 들어가는지 일정은 나와 있지 않아요.
자주 묻는 질문
d3는 챗봇처럼 대답하나요?
아니에요. 정해 둔 보기, 예/아니요, 점수 중에서 답과 확률만 돌려줘요. 긴 글을 생성하지 않아요(공식, 모델 카드).
vLLM Semantic Router가 무엇인가요?
요청 내용을 보고 어떤 모델로 보낼지 정하는 오픈소스 라우터 프로젝트예요. d3는 이 프로젝트의 결정 모델이에요(공식, 모델 카드).
출처
- vLLM Semantic Router Team, “d3” 모델 카드 (허깅페이스, 확인 2026-10-13) — 링크
- d3-flash · d3-mini · d3-nano · d3-lite · d3-edge 모델 카드 — flash · mini · nano · lite · edge
- vLLM Semantic Router GitHub — 링크
대표 이미지: AIMAG가 AI로 생성
구글 검색에서 AIMAG 소식을 먼저 보려면
AI 보조 초안 · 편집부 검수