문샷AI(Moonshot AI)가 자사의 멀티모달 에이전트 모델 Kimi K3.1 Pro의 가중치를 허깅페이스에 공개했다. 이 모델은 이미지와 텍스트를 함께 입력받아 텍스트를 생성하는 image-text-to-text 방식이며, 파라미터 규모는 2.8조(2.8T)에 달한다. 회사는 이 모델을 지금까지 내놓은 '3조급(3T-class)' 모델 가운데 가장 뛰어난 성능을 가진 모델이자 K3.1 시리즈의 첫 모델로 소개했다. 가중치가 다운로드 가능한 형태로 열려 있다는 점에서, 상용 폐쇄형 모델과 경쟁하려는 오픈 웨이트 진영의 또 하나의 대형 발표로 볼 수 있다.
Kimi K3.1 Pro는 기존 Kimi K3를 기반으로 사후 학습(post-training)을 거쳐 만들어졌다. 핵심은 수백 개의 다운스트림 도메인에 걸친 대규모 공동 강화학습(joint reinforcement learning)이다. 문샷AI는 이 과정을 통해 코딩, 3D 생성, 금융 리서치, 사실 정확도 등 여러 영역에서 상당한 개선이 있었다고 밝혔다. 특히 '에이전트 역량(agentic capabilities)' 향상을 강조한다는 점에서, 단순 질의응답을 넘어 도구를 호출하고 여러 단계를 스스로 수행하는 작업을 겨냥한 모델임을 알 수 있다.
긴 문맥을 겨냥한 구조 변경
가장 눈에 띄는 기술적 변화는 어텐션 구조의 교체다. 기존 K3에서 사용하던 풀 어텐션 기반의 Gated MLA 레이어를 Gated DeepSeek Sparse Attention(Gated DSA) 레이어로 바꿨다. 이는 긴 문맥을 더 효율적으로 처리하기 위한 선택으로, 전체 토큰을 빽빽하게 계산하는 대신 희소(sparse) 어텐션을 적용해 연산 비용을 줄이려는 접근이다. 실제로 이 모델은 100만 토큰(1M)에 이르는 문맥 창을 지원한다. 대규모 코드베이스 전체를 한 번에 넣거나 방대한 문서 묶음을 다루는 작업에서, 희소 어텐션 설계는 비용과 지연 시간 측면에서 의미가 있다.
운영 설정 면에서 문샷AI는 별도 지정이 없는 한 추론 강도(reasoning effort)를 최대치인 max로, 온도(temperature)는 1.0, top-p는 0.95로 두고 결과를 측정했다고 설명한다. 추론 강도는 요청의 최상위 reasoning_effort 필드로 조절하며 low, high, max 세 단계를 지원하고 기본값은 max다. 작업의 난도나 응답 속도 요구에 따라 추론 깊이를 조절할 수 있다는 뜻으로, 간단한 작업까지 무조건 최대 추론을 돌리면 비용과 지연이 늘어날 수 있는 만큼 실무에서는 단계별 튜닝이 필요하다.
실무 도입 시 유의할 점
API는 platform.kimi.ai에서 kimi-k3.1-pro 모델을 선택해 사용할 수 있으며, OpenAI 및 Anthropic 호환 인터페이스를 제공한다. 기존에 두 회사의 SDK로 구축한 파이프라인을 상대적으로 적은 수정으로 연결할 수 있다는 의미다. 다만 멀티턴 대화나 도구 호출을 쓸 때는 주의가 필요하다. 문샷AI는 API가 반환한 어시스턴트 메시지를 content만 떼어내지 말고 reasoning_content와 tool_calls를 포함한 완전한 형태 그대로 다시 messages에 넣어 전달해야 한다고 명시한다. 추론 과정을 요약하거나 잘라내는 기존 습관을 그대로 적용하면 도구 호출 흐름이 깨질 수 있으므로, 연동 코드를 손볼 때 반드시 확인해야 할 부분이다.
비전 입력, 구조화 출력, 부분(partial) 모드, 도구 선택, 동적 도구 로딩, 문맥 캐싱 같은 세부 기능은 별도의 퀵스타트와 Thinking Effort 문서에서 다룬다. 모델은 'Kimi K3.1 Pro License'라는 자체 라이선스로 배포되며, 문의는 support@moonshot.ai로 받는다. 가중치가 공개됐다고 해서 무제한 상업 활용이 보장되는 것은 아니므로, 사내 서비스에 탑재하려면 이 라이선스 조항을 먼저 검토하는 것이 안전하다.
한 가지 분명히 할 점은, 이번 공개 자료에서 추출된 내용에는 구체적인 벤치마크 점수가 포함돼 있지 않다는 것이다. 문샷AI는 코딩·금융·사실성 등에서 '상당한 개선'이 있었다고 서술하지만, 수치로 뒷받침되는 비교표는 이 자료 범위에서 확인되지 않는다. 또한 2.8조 파라미터라는 규모는 자체 서빙에 상당한 하드웨어를 요구하므로, 대부분의 조직은 가중치를 직접 내려받기보다 API를 통한 접근이 현실적일 것이다. 따라서 도입을 검토하는 팀이라면 공개된 벤치마크 세부 수치와 실제 서빙 비용, 라이선스 허용 범위를 각자의 워크로드로 직접 검증하는 과정을 거치는 것이 바람직하다.