한눈에 보기
- 무엇: 미국 AI 회사 Liquid AI가 ‘내 컴퓨터에서 돌리는 AI’용 새 모델 LFM2.5-24B-A2B를 공개했어요.
- 특징: 전체 240억 개 파라미터 중 답할 때마다 약 20억 개만 쓰는 MoE 구조예요. 한 번에 약 13만 1천 토큰(131K)을 읽을 수 있고 도구 호출도 지원해요.
- 약점: 지식·코딩 시험에서는 비슷한 크기 경쟁 모델보다 점수가 낮아요.
- 라이선스: 연 매출 1천만 달러 미만이면 상업적으로도 무료로 쓸 수 있어요.
결론부터 말하면, 노트북에서도 빠르게 돌아가면서 앱이나 도구를 대신 다루는 데 초점을 맞춘 모델이에요. 대신 백과사전 같은 지식이나 복잡한 코딩은 더 큰 모델보다 약하다고 회사 스스로 밝혔어요.
어떤 모델인가요?
LFM2.5-24B-A2B는 ‘전문가 혼합(MoE)’ 방식이에요. 여러 전문가 중 질문에 맞는 일부만 깨워 쓰기 때문에 덩치에 비해 가볍게 돌아가요. 이전 세대보다 읽을 수 있는 길이는 32K에서 131K 토큰으로, 어휘 수는 6만 5천 개에서 12만 8천 개로 늘었어요. 답하기 전에 항상 먼저 생각하는 ‘추론’ 모드로 동작해요.
모델 카드에 적힌 지원 언어에는 한국어도 포함돼 있어요. 내려받는 형식은 GGUF, MLX, ONNX로 제공돼요. 쉽게 말해 llama.cpp, 애플 맥, 여러 기기용 실행 도구에서 쓸 수 있는 파일이에요.
얼마나 빠른가요?
Liquid AI는 애플 M5 Max 노트북에서 초당 184토큰을 만든다고 밝혔어요. 데이터센터용 B300 GPU에서는 최대 초당 2만 1천 토큰이고, 비슷한 MoE 모델보다 최대 1.7배 빠르다고 해요. 모두 회사가 밝힌 수치이고, 독립 측정 결과는 아직 없어요.
시험 점수는 어땠나요?
아래는 Liquid AI가 공개한 회사 측정치예요. 도구 사용·지시 따르기에서는 앞서지만 지식·코딩에서는 뒤져요.
| 시험 | LFM2.5-24B-A2B | Qwen3.6-35B-A3B |
|---|---|---|
| BFCLv4(도구 호출) | 65.01 | 65.00 |
| LiveClaw(에이전트 작업) | 48.09 | 38.19 |
| IFEval(지시 따르기) | 96.75 | 93.06 |
| GPQA Diamond(전문 지식) | 74.42 | 83.69 |
| SWE-Bench Verified(코딩) | 51.00 | 66.20 |
회사도 모델 카드에서 지식이 많이 필요한 작업에는 단독으로 쓰지 말라고 권했어요. 검색 등 외부 자료와 함께 쓰는 게 좋아요.
상업적으로 써도 되나요?
라이선스는 Liquid AI 자체 ‘LFM Open License v1.0’이에요. 수정·재배포는 자유롭지만, 상업적 사용은 연 매출 1천만 달러 미만인 개인·회사만 무료예요. 그 이상이면 Liquid AI와 따로 계약해야 해요. 연구·비영리 목적은 매출과 상관없이 쓸 수 있어요.
다른 온디바이스 모델과 비교하면?
비슷하게 내 기기에서 돌리는 MoE 모델로는 이미지까지 이해하는 MiniCPM-V 4.7이 있어요. LFM2.5-24B-A2B는 글 전용인 대신 도구 호출과 속도에 더 집중했어요.
대단한 점과 아쉬운 점
| 대단한 점 | 아쉬운 점 |
|---|---|
| 답할 때 약 20억 개 파라미터만 써서 노트북에서도 빨라요(회사 측정). | 지식·코딩 시험 점수가 Qwen3.6보다 낮아요. |
| 도구 호출·지시 따르기는 더 큰 모델과 비슷하거나 앞서요(회사 측정). | 연 매출 1천만 달러 이상 회사는 별도 계약이 필요해요. |
확장성: 무엇을 해 볼 수 있나요?
- 검색 기능과 짝지어 노트북에서 사내 문서 질의응답 에이전트(대신 일을 처리하는 AI)를 시험해 볼 수 있어요.
- 인터넷 없이 돌아가는 업무 자동화 도구에 넣어 볼 수 있어요.
아직 모르는 것
- 회사 밖 독립 기관의 속도·성능 측정은 아직 없어요.
- 한국어 답변 품질을 따로 측정한 수치는 공개되지 않았어요.
자주 묻는 질문
일반 노트북에서도 돌아가나요?
회사가 밝힌 속도는 M5 Max 기준이에요. 전체 240억 파라미터 파일을 메모리에 올려야 해서, 메모리가 넉넉한 PC가 유리해요(추정).
어디서 받을 수 있나요?
허깅페이스의 LiquidAI 페이지에서 받을 수 있어요.
출처
대표 이미지: AIMAG가 AI로 생성
구글 검색에서 AIMAG 소식을 먼저 보려면
AI 보조 초안 · 편집부 검수