들어가며: "오픈 모델"의 정의가 또 바뀌었어요
AI 업계에서 요즘 가장 뜨거운 경쟁 구도를 하나만 꼽으라면, 저는 "프론티어 모델 대 오픈 모델"이라고 답하겠어요. 프론티어 모델이라는 건 Claude나 GPT처럼 최고 성능을 내지만 가중치(모델의 두뇌에 해당하는 숫자 덩어리라고 생각하시면 돼요)를 공개하지 않는 모델이고, 오픈 모델은 누구나 다운로드해서 자기 서버에서 돌릴 수 있도록 가중치를 공개한 모델이거든요.
그동안 이 둘 사이에는 꽤 큰 성능 격차가 있었는데요. 중국 Moonshot AI의 Kimi 시리즈가 그 격차를 꾸준히 좁혀왔어요. 실제로 지난 12개월 중 9개월 동안 "가장 큰 오픈 모델" 타이틀을 Kimi가 갖고 있었을 정도예요. 그리고 이번에 나온 Kimi K3는 무려 2.8조(2.8T) 파라미터, 오픈 모델로는 세계 최초의 3T급 모델이에요. 더 놀라운 건 이 거대한 모델의 전체 가중치를 2026년 7월 27일까지 공개하겠다고 못 박았다는 점이고요. 누구나 받아서 연구하고, 파인튜닝하고, 자기 서비스에 얹을 수 있게 된다는 뜻이거든요.
기술 분석: 2.8조 파라미터, 근데 다 쓰는 건 아니에요
MoE — 쉽게 말해 "전문가 호출 시스템"
Kimi K3의 핵심은 MoE(Mixture of Experts) 구조예요. 이게 뭐냐면, 모델 안에 작은 전문가 네트워크를 잔뜩 넣어두고, 질문이 들어올 때마다 필요한 전문가만 골라 깨우는 방식이에요. 종합병원에 비유하면 딱 맞아요. 병원에 의사가 896명 있어도 감기 환자 한 명을 진료하는 데 전원이 달라붙지는 않잖아요? 접수처(라우터)가 증상을 보고 내과 의사 몇 명한테만 배정하죠.
Kimi K3는 896개의 전문가 중 16개만 활성화하는 극단적인 희소(sparse) 구조를 채택했어요. 전체 파라미터는 2.8조지만 토큰 하나를 처리할 때 실제로 계산에 참여하는 건 일부라서, 덩치에 비해 추론 비용이 훨씬 가볍다는 거예요. 다만 전문가가 많아질수록 "누구한테 일을 맡길지" 배정이 불안정해지기 쉬운데, 이를 잡기 위해 Stable LatentMoE라는 프레임워크를 함께 썼다고 해요. 접수처가 배정을 헷갈리지 않도록 훈련 과정을 안정화하는 장치라고 이해하시면 돼요.
Kimi Delta Attention과 Attention Residuals
아키텍처에서 눈에 띄는 건 두 가지예요. Kimi Delta Attention(KDA)은 어텐션, 그러니까 모델이 긴 문장에서 "어디에 집중할지" 정하는 메커니즘을 개선한 거예요. 어텐션은 원래 문장이 길어질수록 계산량이 폭발적으로 늘어나는 게 고질병이거든요. KDA는 정보가 시퀀스 길이 방향으로 더 효율적으로 흐르도록 설계됐어요. Attention Residuals(AttnRes)는 모델의 깊이 방향, 즉 수십 개 층을 통과하는 동안 정보가 흐려지지 않게 지름길을 놓아주는 장치고요. 100층 건물에서 1층의 메모를 100층까지 전달할 때, 층마다 말로 전달하면 내용이 왜곡되지만 전용 엘리베이터로 원본을 직접 올려보내면 안전한 것과 비슷해요.
이 구조 개선과 데이터 레시피를 합쳐서, Moonshot은 전작 K2 대비 스케일링 효율이 약 2.5배 좋아졌다고 밝혔어요. 같은 컴퓨팅 자원을 넣었을 때 뽑아낼 수 있는 지능이 2.5배라는 얘기니까, 단순히 "돈을 더 부어서 키웠다"가 아니라 "돈을 지능으로 바꾸는 환율 자체를 개선했다"는 게 포인트예요.
100만 토큰 컨텍스트와 네이티브 비전
컨텍스트 윈도우는 100만 토큰이에요. 컨텍스트 윈도우란 모델이 한 번에 기억하고 참고할 수 있는 텍스트 분량인데, 100만 토큰이면 웬만한 중형 코드베이스 전체나 책 여러 권을 통째로 넣고 질문할 수 있는 수준이거든요. 여기에 네이티브 비전, 그러니까 별도 모듈을 덧붙인 게 아니라 처음부터 이미지를 함께 학습한 시각 능력도 갖췄어요. 스크린샷을 보면서 게임 개발, 프런트엔드, CAD 작업을 최적화하는 사례가 소개됐는데, "코드를 고치고 → 화면을 직접 보고 → 다시 고치는" 루프를 사람 개입 없이 돈다는 게 핵심이에요.
장기 코딩과 커널 최적화 실험
재미있는 평가 방식도 공개됐어요. 각 모델에게 동일한 샌드박스를 주고 최대 24시간 동안 GPU 커널(그래픽카드에서 도는 저수준 연산 코드)을 프로파일링하고 다시 쓰게 한 거예요. 몇 분짜리 문제 풀이가 아니라, 하루 종일 혼자 시행착오를 거치며 성능을 끌어올리는 "장기전 능력"을 본 거죠. 최소한의 감독만으로 긴 엔지니어링 세션을 유지하고, 거대한 저장소를 탐색하고, 터미널 도구를 지휘하는 능력 — 요즘 말하는 에이전틱 코딩의 정면 승부예요.
업계 맥락: 솔직한 포지셔닝이 오히려 인상적이에요
흥미로운 건 Moonshot이 스스로 한계를 인정했다는 점이에요. 발표문에서 "전체 성능은 가장 강력한 독점 모델인 Claude Fable 5와 GPT 5.6 Sol에는 아직 못 미친다"고 명시했거든요. 대신 그 외의 테스트한 모델들은 일관되게 앞섰다고 주장하고요. 보통 이런 발표는 유리한 벤치마크만 골라 "우리가 1등"이라고 외치기 마련인데, 서열을 솔직하게 인정한 건 오히려 신뢰를 주는 전략이에요.
이 구도를 정리하면 이래요. 최상위 독점 모델이 성능의 천장을 계속 밀어 올리고, 오픈 모델은 반 발짝 뒤에서 "충분히 좋은 성능 + 완전한 통제권"이라는 다른 가치를 파는 거죠. 폐쇄 모델은 API 뒤에 있어서 가격 인상이나 정책 변경에 그대로 노출되지만, 가중치를 손에 쥔 오픈 모델은 내 인프라에서 내 마음대로 돌릴 수 있으니까요. 다만 현실적인 벽도 있어요. 2.8조 파라미터면 아무리 MoE로 활성 파라미터를 줄여도 가중치를 메모리에 올리는 것 자체가 엄청난 GPU 자원을 요구하거든요. "오픈"이 곧 "내 맥북에서 돌아간다"는 뜻은 아니라는 거예요. 그래서 Moonshot도 추론 파트너, 오픈소스 메인테이너들과 미리 협력해서 생태계 전반에 안정적으로 배포되도록 준비 중이라고 밝혔어요. 출시 시점에는 최대 사고 모드(thinking effort)가 기본이고, 저·고 사고 모드는 이후 업데이트로 나눠서 제공된대요.
한국 개발자에게 주는 시사점
첫째, 셀프호스팅 선택지가 한 단계 올라갔어요. 금융, 의료, 공공처럼 데이터를 외부 API로 보내기 어려운 도메인에서 일하신다면, 프론티어 반 발짝 아래 성능의 모델을 사내 인프라에 두는 선택지가 생긴 거예요. 물론 2.8T를 직접 서빙하는 건 대기업급 인프라 얘기지만, 가중치가 공개되면 양자화(모델을 압축해서 가볍게 만드는 기술)나 증류 버전이 커뮤니티에서 빠르게 나오는 게 그동안의 패턴이었거든요.
둘째, 에이전틱 코딩 학습이 더 급해졌어요. 24시간 자율 커널 최적화 같은 사례가 보여주듯, 이제 경쟁의 축은 "질문에 잘 답하는 모델"이 아니라 "긴 작업을 혼자 완수하는 에이전트"예요. 모델에게 큰 작업을 맡기고, 중간 결과를 검증하고, 방향을 교정하는 워크플로 설계 능력이 개발자의 핵심 역량이 되고 있어요. 지금 쓰는 AI 코딩 도구로 "작은 기능 하나를 처음부터 끝까지 맡겨보는" 연습부터 시작해보시길 권해요.
셋째, 아키텍처 트렌드를 읽는 눈을 기르세요. KDA, AttnRes, LatentMoE 같은 이름을 다 외울 필요는 없어요. 다만 "어텐션 효율화 + MoE 희소성 확대 + 스케일링 효율 개선"이라는 큰 흐름은 알아두면 좋아요. 7월 27일 가중치 공개와 함께 기술 리포트도 나온다니, 아키텍처에 관심 있다면 그 리포트가 훌륭한 교재가 될 거예요.
마무리: 격차는 좁혀지고, 선택지는 늘어나요
Kimi K3가 던지는 메시지는 명확해요. 오픈 모델 진영이 이제 파라미터 규모에서는 독점 모델과 같은 체급에 올라섰고, 성능 격차는 "넘을 수 없는 벽"에서 "반 발짝 차이"로 줄었다는 거예요. 프론티어 모델 입장에서는 성능 우위를 유지해야 할 압박이 커지고, 사용자 입장에서는 협상력이 늘어나는 구도죠.
여러분은 어떠세요? 최고 성능의 폐쇄 모델과, 그보다 조금 아래지만 완전히 통제할 수 있는 오픈 모델 중 실무에서 뭘 고르시겠어요? 그리고 24시간짜리 자율 코딩 세션, 여러분의 프로젝트에서는 어떤 작업부터 맡겨보고 싶으신가요? 댓글로 의견 나눠주세요.
🔗 출처: Hacker News