인셉션 랩스(Inception Labs)가 확산(diffusion) 방식 기반 대규모 언어모델 'Mercury 3'를 공개했다. 회사 측 설명에 따르면 이 모델은 초당 1,000토큰 이상, 구체적으로 엔비디아 GPU에서 초당 1,068토큰의 생성 속도를 내면서도 품질 면에서 속도 최적화 계열 최신 모델인 GPT-6 Luna, Claude Haiku 5.5와 대등하거나 그 이상이라고 한다. 같은 작업을 경쟁 모델보다 4~8배 빠르게 처리한다는 것이 핵심 주장이다.
자기회귀와 다른 생성 방식
오늘날 대부분의 상용 LLM은 토큰을 하나씩 순차적으로 뱉어내는 자기회귀(autoregressive) 방식이다. 반면 확산 방식은 이미지 생성 모델에서 쓰이던 접근으로, 전체 출력을 한 번에 다듬어 나가는 구조에 가깝다. 그동안 업계의 관심사는 '확산 LLM이 복잡한 과제에서 자기회귀 모델과 경쟁할 만큼 규모를 키울 수 있는가'였다. 인셉션 랩스는 Mercury 3가 그 질문에 답한다고 말한다. 초기 버전인 Mercury 1(mini) 대비 전체 파라미터를 40배 이상 키웠고, 표준 벤치마크에서의 지능 지표가 3배 상승했으며, 그러면서도 속도는 그대로 유지했다는 설명이다. 자기회귀 모델의 발전을 이끈 스케일링 법칙이 확산 방식에도 적용된다는 주장의 근거다.
사양 측면에서는 컨텍스트 길이가 Mercury 2.5의 26만 토큰에서 100만 토큰으로 확대됐다. 가격은 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.70달러이며, 출시 기념으로 50% 할인해 각각 0.10달러와 0.35달러에 제공한다. 캐시된 토큰은 입력 가격에서 90%를 추가로 깎아준다.
지연이 비용인 영역을 겨냥하다
Mercury 3가 노리는 지점은 분명하다. 에이전트는 매 단계마다 모델의 응답을 기다리기 때문에 작은 지연이 빠르게 누적된다. 속도가 빠르면 에이전트는 더 일찍 작업을 마치고, 남는 시간에 여러 접근법을 시도해 볼 여유가 생긴다. 회사는 자체 운영 중인 웹 에이전트 환경에서 실제 Mind2Web 탐색 과제 50건을 돌린 결과 Mercury 3가 50%를 완료했으며, 이는 GPT-6.1-Sol보다 유의미하게 높은 수치라고 밝혔다. 같은 토큰 사용량과 동일한 에이전트 단계 수를 쓰면서 토큰당 비용은 훨씬 낮았다는 점을 강조한다.
조기 접근 파트너들의 사례도 비슷한 맥락이다. 교육 서비스 리비전도조(RevisionDojo)의 공동창업자 겸 CTO 마이클 통은 힌트와 채점 결과, 용어 정의가 약 1초 만에 돌아오면서 품질은 기존 모델과 같거나 더 나았고, 기존 스택에 그대로 끼워 넣는 '드롭인 교체'가 가능했다고 전했다. 스마트 글라스용 검색을 테스트한 사례에서는 Octen 검색 자체가 약 80밀리초였고 모델 생성이 병목이었는데, Mercury 3가 중앙값 기준 0.9초의 생성 시간과 2.2초의 종단 간 응답 시간으로 빠른 모델들 가운데 속도와 품질의 균형이 가장 좋았다고 한다. 규제 산업 대상 고객 응대를 다루는 로리킷(Lorikeet)의 마이클 그리븐은 초기 테스트에서 Mercury 3가 지연 시간에서 다른 모델을 앞서면서 평가와 실제 운영 성능에서도 더 높았다고 밝혔다.
실무자가 따져볼 지점
Mercury 3는 OpenAI API와 호환되므로 코드 재작성 없이 기존 스택에 붙일 수 있고, 인셉션 API 플랫폼과 함께 OpenRouter, Baseten, Vercel을 통해 제공된다. 엔터프라이즈 배포는 전용 용량, 오토스케일링, 컴플라이언스 제어, 데이터 보존 기간 설정을 지원한다. 음성 애플리케이션용으로 첫 응답 토큰까지의 시간(TTFAT)을 줄이는 데 특화된 Mercury Voice, 대량 분류에 맞춘 의사결정 모델 Mercury Decide 등 실시간 AI를 겨냥한 제품군도 함께 넓어지고 있다.
다만 공개된 수치와 평가가 대부분 인셉션 랩스 자체 벤치마크와 파트너 증언에 기반한다는 점은 염두에 둘 필요가 있다. 비교 대상으로 언급된 모델들과의 우열, Mind2Web 50% 완료율 같은 지표는 아직 독립적으로 검증되지 않았고, 테스트 환경과 과제 구성에 따라 결과가 달라질 수 있다. 속도가 결정적 가치를 갖는 음성 상담, 실시간 튜터링, 브라우저 에이전트, 검색 보강 같은 지연 민감형 워크로드라면 실제 트래픽 조건에서 품질과 지연을 함께 재보는 자체 평가가 도입 판단의 핵심이 될 것이다.