독창적인 아키텍처와 빠른 속도로 눈길을 끌어 온 리퀴드 AI가 지금까지 출시한 모델 가운데 가장 큰 플래그십 모델을 공개했다. 복잡한 추론과 도구 사용을 지원하면서도 기기에서 빠르게 작동하도록 설계해, 개인정보 보호가 중요한 온디바이스 AI 에이전트를 겨냥했다.
리퀴드 AI는 13일(현지시간) LFM2.5 제품군의 마지막 모델인 ‘LFM2.5-24B-A2B’를 선보였다. 지금까지 이 회사는 매개변수 2억3000만개(230M)부터 26억개(2.6B)까지 다양한 모델을 출시했다.
LFM2.5-24B-A2B는 전문가 혼합(MoE) 아키텍처를 채택했다. 전체 매개변수는 240억개지만, 추론할 때 토큰마다 약 20억개만 활성화한다. 리퀴드 AI는 이 방식으로 비슷한 규모의 다른 MoE 모델보다 기기 내 추론 속도를 최대 1.7배 끌어올렸다고 설명했다.
에이전트와 도구 사용 능력을 측정하는 8개 벤치마크 중 5개에서 경쟁 모델 ‘큐원3.6-35B-A3B’와 같거나 더 나은 성능을 기록했다. 큐원 모델은 전체 매개변수와 활성 매개변수가 모두 LFM2.5-24B-A2B보다 약 50% 많다.
자동화 작업 수행 능력을 평가하는 ‘오토메이션벤치(AutomationBench)’에서는 27.69점을 얻었다. 큐원3.6-35B-A3B가 기록한 8.72점보다 3배 이상 높은 점수다.
실제 에이전트 작업을 평가하는 ‘라이브클로(LiveClaw)’에서도 48.09점을 기록해 경쟁 모델의 38.19점을 웃돌았다.
기기에서 빠르게 실행되는 점도 강점으로 꼽았다. 애플 ‘M5 맥스’에서는 초당 184토큰, AMD 라이젠 AI 맥스+ 395에서는 초당 114토큰을 생성했다. 리퀴드 AI에 따르면 비교 대상인 MoE 모델 중 속도가 가장 빠르고 메모리 사용량도 가장 적었다.
단일 엔비디아 ‘B300’ GPU에서는 동시 요청이 많은 부하 상황에서도 초당 2만1000개가 넘는 출력 토큰을 처리했다.
이번 모델은 이전 버전 ‘LFM2-24B-A2B’를 토대로 학습 규모와 추론 능력을 키웠다. 사전 학습 데이터는 17조 토큰에서 33조 토큰으로 늘었다. 컨텍스트 길이는 기존 3만2768토큰에서 13만1072토큰으로 확장했고, 어휘 규모는 6만5000개에서 12만8000개로 두 배 확대해 비라틴 문자 처리 능력을 개선했다.
새 모델은 최종 답변을 내놓기 전에 추론 과정을 생성하는 ‘추론 전용’ 모델이다. 빠른 토큰 생성 속도를 활용해 답변 품질을 높이도록 설계했다. 학습에는 도구 호출과 여러 단계로 이어지는 작업 기록을 포함했으며, 오픈클로(OpenClaw), 헤르메스 에이전트(Hermes Agent), 파이(Pi), 오픈코드(OpenCode) 등의 에이전트 실행 환경에서 사후 학습을 진행했다.
모든 작업에서 대형 모델보다 앞서는 것은 아니다. 지식 중심 평가와 코딩 벤치마크에서는 더 큰 모델이 우세했다. 예를 들어 큐원3.6-35B-A3B는 ‘SWE-벤치 베리파이드’에서 66.20점을 받아 이 모델의 51.00점을 앞섰다. 리퀴드 AI는 지식 집약적인 작업에는 검색증강생성(RAG)이나 웹 검색 기능을 함께 사용할 것을 권장했다.
학습 중 모델이 보상 점수를 높이려고 저장소의 깃(Git) 기록이나 깃허브, 파이파이(PyPI), 허깅페이스 등에서 정답을 찾으려는 ‘보상 해킹’을 시도한 사실도 공개됐다.
모델이 자신이 샌드박스 환경에 놓여 있음을 알아챈 사례도 있었다. 리퀴드 AI는 이에 대응해 샌드박스 보안을 강화했고, 공개한 평가 결과는 격리된 환경에서 측정했다고 밝혔다.
LFM2.5-24B-A2B는 오픈 웨이트 모델이다. 기본 모델과 사후 학습 모델 모두 허깅페이스에서 이용할 수 있다. llama.cpp, MLX, vLLM, SGLang, ONNX 등 주요 추론 도구를 이용한 실행도 지원한다. API 가격은 입력 토큰 100만개당 0.10달러, 출력 토큰 100만개당 1달러이며, 캐시된 입력 토큰은 100만개당 0.05달러다.
리퀴드 AI는 이 모델이 노트북과 PC 같은 개인 기기에서 계속 작동하는 에이전트에 적합하다고 강조했다. 클라우드 API를 호출하지 않고도 기기에서 추론과 도구 실행을 처리할 수 있어, 응답 속도와 개인정보 보호가 중요한 온디바이스 AI 활용을 겨냥했다.