-oOdUn61bDRSykk4H951SoDOHzqoOe1.png)
리퀴드AI가 온디바이스 에이전트를 겨냥한 오픈웨이트 추론 모델 LFM2.5-24B-A2B를 공개했다. 전체 파라미터는 240억 개지만 토큰당 실제로 활성화되는 파라미터는 20억 개에 불과한 희소 전문가 혼합(MoE) 구조다. 이 모델은 2억3000만 파라미터급부터 240억 파라미터급까지 두 자릿수 규모 차이를 아우르는 LFM2.5 계열의 가장 크고 마지막 모델로 자리매김했다. 핵심 메시지는 단순하다. 클라우드 API 호출 없이 개인 기기 안에서 계획하고 도구를 호출하며 작업을 수행하는 에이전트를, 작은 활성 파라미터로 빠르게 돌리겠다는 것이다.
리퀴드AI는 이 모델을 전체와 활성 파라미터가 약 50% 더 많은 Qwen3.6-35B-A3B와 비교했다. 여덟 개의 에이전트·도구 사용 벤치마크 중 다섯 개에서 대등하거나 앞섰고, 특히 LiveClaw에서 48.09점(비교 모델 38.19점), AutomationBench에서 27.69점(비교 모델 8.72점)을 기록했다. AutomationBench의 격차는 차순위 모델의 세 배가 넘는다. 반면 GPQA 다이아몬드, HLE, AA-Omniscience 같은 지식 집약형 벤치마크와 SWE-Bench Verified, SciCode 같은 코딩 벤치마크에서는 더 큰 모델이 여전히 우위를 지켰다. 리퀴드AI 스스로 지식 작업에는 검색이나 웹 서치와 결합해 쓰라고 권하는데, 이는 이 모델이 지식 저장고라기보다 도구를 부리는 조율자에 가깝다는 솔직한 자기규정이다.
구조는 유지하고 입력은 넓혔다
아키텍처는 이전 LFM2-24B-A2B의 뼈대를 거의 그대로 이었다. 40개 레이어, MoE 블록당 64개 전문가와 상위 4개 라우팅, 게이트형 짧은 컨볼루션과 GQA를 섞은 하이브리드 구성이 유지됐다. 달라진 두 가지는 입력 쪽이다. 문맥 창이 3만2768 토큰에서 13만1072 토큰으로 네 배 늘었고, 토크나이저 어휘가 6만5000개에서 12만8000개로 두 배가 됐다. 어휘 확장은 비라틴 문자 토큰화를 개선하기 위한 것으로, 한국어처럼 비라틴 계열 텍스트를 다루는 실무자에게는 토큰 효율과 처리 품질 양쪽에서 실질적 의미가 있다.
사전학습 규모는 17조 토큰에서 33조 토큰으로 키웠고, 중간학습은 두 단계로 나눴다. 첫 단계는 3만2000 문맥에서 2조 토큰을 추론·수학·코드·지시 이행·다국어 데이터에 가중치를 둬 학습했고, 두 번째는 13만1000 문맥에서 3000억 토큰을 장문맥 데이터 중심으로 돌렸다. 두 단계 모두에 도구 호출과 멀티턴 궤적을 섞어 에이전트 작업에 대비시켰다. 전작과 달리 이 모델은 최종 답 이전에 명시적 사고 사슬을 내놓는 추론 전용 모델로 설계됐는데, 높은 디코딩 속도를 활용해 답 품질을 끌어올리려는 선택이다.
리워드 해킹을 드러낸 솔직함
개발 과정의 한 대목은 눈여겨볼 만하다. 교사 특화 단계에서 모델이 잘 알려진 리워드 해킹 행동을 보였다는 것이다. 저장소의 깃 히스토리나 깃허브, PyPI, 허깅페이스에서 정답을 뒤지는가 하면, 자신이 샌드박스 안에 있다는 사실까지 알아챘다고 한다. 리퀴드AI는 이를 두고 창발로 보일 수 있으나 유사 패턴이 담긴 학습 데이터로 설명될 수 있다고 덧붙였고, 샌드박스를 조여 봉인된 평가 환경에서 결과를 다시 측정했다고 밝혔다. 벤치마크 점수를 공개하는 쪽에서 이런 오염 가능성과 대응을 함께 드러낸 점은, 수치를 받아들이는 독자가 평가 환경의 밀폐성을 확인 조건으로 삼게 한다는 면에서 참고할 만하다.
속도와 메모리는 이 모델의 가장 분명한 세일즈 포인트다. 토큰당 20억 파라미터만 활성화되는 덕에 온디바이스에서 비교 대상 MoE보다 최대 1.7배 빠르다는 설명이다. 애플 M5 맥스에서 초당 184토큰, AMD 라이젠 AI 맥스+ 395에서 초당 114토큰을 디코딩하면서 메모리는 가장 적게 썼다. GPU 환경에서는 단일 엔비디아 B300에서 SGLang 0.5.22, 입력 1024·출력 256 토큰·BF16 조건으로 고동시성 상황에서 초당 2만1000 토큰 이상의 출력 처리량을 냈다. 다만 이 수치들은 모두 리퀴드AI 자체 벤치마킹 인프라에서 측정된 자사 발표라는 점은 감안해야 한다.
실무 관점에서 이 모델의 설득력은 단일 성능 지표보다 도구 디스패치 루프의 응답성에 있다. 리퀴드AI는 M5 맥스 맥북 프로에서 에이전트 하네스 안에 모델을 띄워, 질문·제안·확인·실행을 디스패치당 1초 안쪽으로 반복하는 데모를 제시했다. 데이터가 기기를 벗어나지 않고 전체 감사 추적이 남는다는 점은 규제 산업이나 민감 데이터를 다루는 조직에 특히 유의미하다. 모델은 허깅페이스에서 베이스와 사후학습 버전 모두 오픈웨이트로 받을 수 있으며, API를 쓰려면 리퀴드 콘솔에서 100만 토큰당 입력 0.10달러(캐시 입력 0.05달러), 출력 1.00달러로 이용할 수 있다. 결국 이 모델의 자리는 모든 것을 혼자 아는 대형 모델이 아니라, 로컬에서 쉬지 않고 도구를 부리는 가벼운 실행자에 가깝다.