한눈에 보기
- 무엇: OpenBMB의 MiniCPM-V 4.7 35B-A3B는 이미지·영상을 이해하는 개방 가중치(공개된 모델 파일) 멀티모달(글·이미지·영상) 모델이에요. 시리즈 첫 MoE(전문가 혼합) 변형이에요(공식, 모델 카드).
- 누가: OpenBMB가 허깅페이스에 올렸어요. 라이선스는 Apache-2.0예요(공식, 모델 카드).
- 언제: 저장소 생성 2026년 10월 7일(미국 시간), 10월 13일 기준 좋아요 237·다운로드 166이었어요(허깅페이스 API).
- 속도: 모델 카드는 아이폰 17 Pro Max에서 메모리 3GB로 초당 13토큰 이상이라고 적어요(모델 카드 인용, 회사 측정).
휴대폰에서 돌리기 어렵던 큰 MoE 비전 모델을, 성능을 깎지 않고 부드럽게 돌리겠다는 시도예요. MoE란 전체 매개변수는 크지만 토큰마다 일부 전문가(expert)만 켜서 계산량을 줄이는 구조예요. 35B-A3B는 전체 약 350억, 토큰당 활성 약 30억으로 읽어요(모델 카드 표기).
모델 카드는 Lookahead Expert Scheduling(LES, 다음 층 전문가를 미리 불러 오는 기법)과 레이어별 양자화, DSpark 추론 가속을 함께 쓴다고 해요. 그 결과 기기 안에서 부드럽게 돈다고 설명해요(공식, 모델 카드).
벤치마크는 어떻게 나왔나요?
아래 점수는 모델 카드에 실린 Instruct 모드 표에서 옮겼어요. 시각 토큰 압축 4x 기준이고, 회사 측 측정·공개 보고 혼합이에요(모델 카드 각주).
| 벤치마크 | MiniCPM-V 4.7 35B-A3B | Qwen3.6 35B-A3B | Gemma-4 31B |
|---|---|---|---|
| MMBench | 91.72 | 86.76 | 89.63 |
| MMStar | 80.67 | 76.00 | 76.47 |
| MMMU | 80.22 | 77.44 | 75.33 |
| MathVista | 88.00 | 84.40 | 78.50 |
| Video-MME(자막 없음) | 76.40 | 74.70 | 75.70 |
표는 모델 카드 이미지에서 일부 항목만 옮겼어요. 전체 표는 모델 카드에서 볼 수 있어요.
온디바이스 속도는 “아이폰 17 Pro Max에서 13+ tok/s”가 카드에 적힌 유일한 토큰/초 수치예요(모델 카드 인용). AIMAG는 직접 재지 않았어요.
어떻게 써 보나요?
transformers 5.18 이상으로 불러 쓸 수 있고, 이미지·영상 예시 코드가 카드에 있어요. 양자화본(FP8, int4, AWQ, GPTQ, GGUF)과 DSpark 드래프트 모델도 같이 올라와 있어요(공식, 모델 카드). iOS·Android·HarmonyOS 앱 저장소도 안내해요.
비슷한 온디바이스·개방 가중치 흐름은 맥 Transformers·GGUF 글에서 볼 수 있어요.
한국 이용자에게는 어떤 의미가 있나요?
휴대폰·태블릿에서 로컬로 사진·영상을 다루는 개발자용 선택지로 보는 편이 맞아요(추정). 한국어 성능 수치는 카드에 따로 없어요.
대단한 점과 아쉬운 점
| 대단한 점 | 아쉬운 점·우려 |
|---|---|
| 시리즈 첫 MoE를 온디바이스까지 연결했다고 밝혀요(공식, 모델 카드). | 벤치마크·tok/s는 회사 측정이에요. |
| 4x/16x 시각 토큰 압축을 고를 수 있어요(공식, 모델 카드). | 한국어 성능 점수는 공개되지 않았어요. |
| Apache-2.0과 여러 양자화본을 함께 내놨어요(공식, 모델 카드). | AIMAG는 실기기 속도를 재현하지 않았어요. |
확장성
Rockchip·Intel·AMD·Arm 등 칩 지원을 “day-0″으로 적어, 로컬 기기 쪽 생태계를 노린 출시예요(회사 주장). Ollama에도 올라와 있다고 해요(공식, 모델 카드).
아직 모르는 것
- 한국어 VQA·OCR 점수는 공개되지 않았어요.
- 아이폰 외 안드로이드 기기의 tok/s는 이 카드에 숫자로 없어요.
자주 묻는 질문
35B-A3B는 무슨 뜻인가요?
전체 매개변수 약 350억, 토큰마다 켜지는 매개변수가 약 30억인 MoE라는 뜻으로 읽어요(모델 카드 표기).
출처
- OpenBMB, MiniCPM-V 4.7 35B-A3B 모델 카드 (확인 2026-10-13) — 링크
대표 이미지: AIMAG가 AI로 생성
구글 검색에서 AIMAG 소식을 먼저 보려면
AI 보조 초안 · 편집부 검수