리퀴드 AI(Liquid AI)가 새로운 오픈 웨이트 모델군 LFM3를 공개했다. 텍스트, 비전, 오디오, 그리고 이들을 합친 옴니(omni) 모델과 '결정(decision)' 모델까지 하나의 공통 백본 위에 올렸다는 점이 핵심이다. 첫 공개분은 모두 20억 파라미터 안팎으로, 거대 범용 모델을 띄우는 대신 용도에 맞는 작은 모델을 골라 기기 위에서 직접 미세조정하고 돌리는 방식을 전제로 설계됐다. 베이스 모델과 사후학습(post-trained) 모델 모두 허깅페이스, 자체 플레이그라운드, 그리고 리퀴드 AI API를 통해 바로 받을 수 있다.
이 모델군은 전작 LFM2의 연장선에 있다. LFM2는 짧은 합성곱(short convolution)과 어텐션을 섞은 하이브리드 구조로도 품질 저하 없이 온디바이스에서 빠르게 돌 수 있음을 보여줬고, 그 설계는 하드웨어를 직접 측정 루프에 넣는 자동 아키텍처 탐색에서 나왔다. LFM3는 같은 탐색 방식을 에이전트 용도에 맞춰 다시 돌렸다. 측정 대상 하드웨어도 크게 늘려, LFM2가 휴대폰 한 대와 노트북 한 대의 CPU만 봤던 것과 달리 삼성 갤럭시 S26 울트라와 원플러스 15 같은 스마트폰, 라즈베리 파이 5, 애플 M4 맥스와 AMD 라이젠 AI 노트북, Arm·x86 클라우드 CPU, GPU, 퀄컴 헥사곤 NPU 등 14개 조합을 포함시켰다.
긴 문맥을 노린 삼중 하이브리드 구조
LFM3의 기술적 차별점은 긴 문맥에서의 효율이다. 전체 24개 층 중 13개는 게이트형 짧은 합성곱, 5개는 창 크기 256토큰의 슬라이딩 윈도 어텐션(SWA), 6개는 전역 어텐션으로 구성된다. 합성곱 커널 크기는 LFM2의 3에서 7로 늘었다. 여기에 어텐션 헤드별 시그모이드 게이트로 쓸모없는 헤드를 끄는 방식, 전역 어텐션에서 고주파 절반만 회전시키는 부분 RoPE, 블록의 입력과 출력을 모두 정규화하는 샌드위치 정규화 같은 기법이 더해졌다. 이런 조합의 성과는 긴 입력에서 드러난다. 리퀴드 AI에 따르면 짧은 프롬프트에서는 LFM3-1.7B가 더 작은 LFM2-1.2B와 엣지 기기에서 엇비슷한 속도를 내지만, 8K 토큰을 문맥에 넣으면 약 25% 더 빠르다.
학습 데이터 규모도 커졌다. LFM3-1.7B 베이스는 22조 토큰으로 사전학습됐고, 과학 논문과 저장소 단위 코드, 수학 데이터 비중이 전작보다 늘었다. 마지막 3.5조 토큰 구간은 품질을 선별한 중간 학습 단계로, 에이전트 추적과 다양한 도구 호출 사례의 비중을 높이고 문맥 창을 256K 토큰까지 확장했다. 어휘집은 LFM2.5-8B-A1B와 같은 12.8만 규모로, 비라틴 문자를 더 효율적으로 토큰화하도록 만들어졌다.
작지만 에이전트에 초점을 맞춘 성능
텍스트 모델 LFM3-1.7B는 로컬 에이전트용으로 사후학습됐고, Hermes Agent나 Pi 같은 하네스에서 수십 개를 백그라운드로 동시에 돌리는 사용 방식을 상정한다. 회사 측 설명으로는 명령 수행과 함수 호출 벤치마크(BFCL, ToolSandbox)에서 앞서고, 브라우저·업무 앱 기반 긴 작업에서 Qwen3.5-9B를 능가한다. 반면 에이전트 코딩과 지식 영역은 여전히 더 큰 모델이 우세하며, 다만 검색을 붙이면 'Humanity's Last Exam' 점수가 거의 두 배로 오르며 지식 격차를 줄인다고 한다. 메모리 측면에서는 128K 문맥의 KV 캐시가 1.6GB로, Qwen3.5-4B(4.3GB)나 MiniCPM5-2B(5.6GB)보다 가볍다는 수치를 제시했다.
나머지 모델들도 같은 백본에서 갈라져 나왔다. 비전 모델 LFM3-VL-2B는 자체 개발한 1.64억 파라미터 인코더를 써서 SigLIP2 대비 연산량을 3분의 1로 줄였다고 하며, 오디오 모델 LFM3-Audio-2B는 18개 언어를 지원하고 완전 인과적(causal) 인코더로 마이크 입력을 말하는 도중에 처리해 첫 토큰까지 지연을 최소 50ms까지 낮춘다. 비전·오디오·언어를 한 모델에 합친 LFM3-Omni-2B는 이미지에 대한 음성 질문이나 소리가 포함된 영상 질의처럼 모달리티를 넘나드는 상호작용을 다룬다. 마지막으로 결정 모델 d1-2B와 d1-Omni-2B는 답을 생성하는 대신, 상황과 질문 목록을 받아 한 번의 순전파로 각 질문에 보정된 확률을 붙여 밀리초 단위로 답한다. d1-2B는 기존 d1-3B를 파라미터를 3분의 1 줄이면서 대체했다.
실무자가 눈여겨볼 지점과 한계
한국 IT 실무자 입장에서 LFM3의 의미는 성능 1등 경쟁이 아니라 배치 방식에 있다. 데이터가 기기를 벗어나지 않고 클라우드 연결 없이 추론이 돌아간다는 점은 개인정보나 보안 제약이 큰 환경에서 분명한 가치다. 2B급이라 단일 GPU에서 짧은 미세조정만으로 특정 도메인·도구·하네스에 맞출 수 있다는 점도, 범용 LLM API 호출 비용과 지연을 고민하던 팀에게는 검토할 만한 대안이다. 모달리티별로 모델을 쪼개 놓은 구성 역시 필요한 능력만 골라 가볍게 올리려는 엣지 제품 설계와 잘 맞는다.
다만 공개된 수치 대부분이 리퀴드 AI 자체 벤치마크라는 점은 감안해야 한다. 특정 과제에서 수 배 큰 모델과 경쟁한다는 주장은 인상적이지만, 비교 대상 모델명과 측정 조건이 회사 선택에 달려 있고 코딩·지식처럼 '크기가 중요한' 영역에서는 여전히 밀린다고 스스로 밝히고 있다. 결국 특화 지능이라는 표현 그대로, 범용 조수보다는 좁고 반복적인 작업에 전문가로 길들이는 용도에 맞는 도구로 보는 것이 현실적이다. 실제 도입을 고려한다면 홍보 지표보다 각 모델 카드의 세부 조건과 자사 과제에 대한 직접 미세조정 결과를 기준으로 판단하는 편이 안전하다.