무슨 일이 있었나요?
프랑스 AI 스타트업 Mistral AI가 자사 플래그십 모델인 Mistral Large 4의 가중치(weights)를 공개했어요. 가중치가 뭐냐면, AI 모델이 학습하면서 얻은 '지식' 그 자체예요. 수천억 개의 숫자로 이뤄진 거대한 파일인데요, 이걸 내려받으면 API를 거치지 않고 내 서버에서 모델을 직접 돌릴 수 있어요. 우리 데이터로 추가 학습(파인튜닝)을 할 수도 있고요.
비유하자면 API로만 쓸 수 있는 모델은 식당에서 요리를 주문해 먹는 거예요. 가중치 공개는 레시피와 재료를 통째로 넘겨받는 거고요. 내 입맛대로 간을 바꿀 수 있고, 식당이 가격을 올리거나 문을 닫아도 계속 요리할 수 있죠.
Mistral의 오픈 웨이트 행보, 흐름을 보면 더 재밌어요
Mistral은 원래 오픈 모델로 이름을 알린 회사예요. 2023년에 Mistral 7B와 Mixtral 8x7B를 Apache 2.0 라이선스로 공개하면서 '작지만 강한 오픈 모델'의 대명사가 됐거든요. 그런데 플래그십인 Large 라인은 좀 달랐어요. Mistral Large 2는 가중치를 공개하긴 했지만 연구용 라이선스였어요. 그래서 상업 서비스에 쓰려면 따로 계약을 맺어야 했죠.
분위기가 확 바뀐 건 Mistral Large 3부터예요. 전체 파라미터는 약 6,750억 개지만, 토큰 하나를 처리할 때는 그중 약 410억 개만 쓰는 MoE 구조였어요. 이 모델을 Apache 2.0으로 공개했거든요. 이번 Large 4 가중치 공개는 '플래그십도 공개한다'는 노선을 이어가겠다는 신호로 읽혀요. 정확한 파라미터 규모, 컨텍스트 길이, 라이선스 조건은 공식 발표문에서 꼭 직접 확인해 보세요. 특히 라이선스는 상업 서비스에 쓸 수 있느냐를 가르는 핵심이라 제일 먼저 봐야 해요.
MoE가 뭐길래 다들 이 구조를 쓸까요?
MoE(Mixture of Experts, 전문가 혼합)는 종합병원을 떠올리면 쉬워요. 병원에 전문의가 수십 명 있어도 환자 한 명이 모든 의사를 만나지는 않잖아요. 접수창구(라우터)가 증상을 보고 딱 맞는 몇 명에게만 보내죠. MoE도 똑같아요. 모델 안에 여러 '전문가' 네트워크가 있고, 입력마다 그중 일부만 골라서 계산해요. 전체 지식량은 거대하지만 실제 계산량은 훨씬 적어요. 그래서 같은 크기의 일반(dense) 모델보다 추론이 빠르고 저렴하거든요.
다만 함정이 하나 있어요. 계산은 일부만 하지만 메모리에는 전부 올려놔야 해요. 어떤 전문가가 호출될지 미리 알 수 없으니까요. 6천억 파라미터급이면 8비트로 저장해도 가중치만 600GB가 넘어요. 고성능 GPU 여러 장이 묶인 서버가 필요하다는 얘기죠. Large 4도 플래그십인 만큼 개인 PC에서 가볍게 돌리기는 어렵다고 보는 게 현실적이에요.
업계 맥락: 오픈 웨이트 경쟁의 한복판
최근 1~2년 동안 오픈 웨이트 상위권에서는 DeepSeek, Qwen, Kimi, GLM 같은 중국 모델이 강세를 보여왔어요. Meta의 Llama와 OpenAI의 gpt-oss도 이 경쟁에 뛰어들었고요. 성능만 놓고 보면 선택지가 이미 꽤 많은 셈이에요.
그런데 Mistral에는 다른 무기가 있어요. 바로 유럽 기업이라는 점이에요. 규제나 보안 심사 때문에 중국산 모델을 도입하기 부담스러운 기업이 많거든요. 미국 빅테크 의존도를 줄이고 싶은 정부와 공공기관도 있고요. 이런 곳에 Mistral은 꽤 매력적인 대안이에요. EU AI Act 같은 규제 환경을 처음부터 고려해온 회사라는 점도 기업 고객을 상대할 때 강점이 돼요. 이른바 '소버린 AI'(자국이 통제할 수 있는 AI) 수요를 정조준하고 있다고 볼 수 있어요.
한국 개발자에게 주는 시사점
가장 직접적인 수혜자는 망분리 환경이에요. 금융, 공공, 의료처럼 외부 API를 마음대로 호출하기 어려운 곳이 많잖아요. 이런 곳에서는 '사내에 직접 띄울 수 있는 최상위급 모델'이 하나 더 생겼다는 것 자체가 큰 의미가 있어요.
다만 한국어 성능은 꼭 직접 검증하세요. 공개 벤치마크는 대부분 영어 중심이거든요. 우리 서비스의 실제 질문이나 문서로 작은 평가셋을 만들어서 기존 모델과 나란히 비교해 보는 게 제일 정확해요. 서빙할 때는 vLLM이나 SGLang 같은 추론 엔진이 새 모델을 지원하는지, 양자화 버전이 나왔는지도 확인해 보세요. 당장 GPU가 없다면 API나 클라우드 호스팅으로 품질부터 확인하세요. 자체 운영 여부는 그다음에 결정하는 순서를 추천해요. 국내에서도 독자 파운데이션 모델 프로젝트가 진행 중인데요, 이런 해외 오픈 모델은 좋은 비교 기준점이 되기도 해요.
마무리
한줄 정리: 프론티어급 AI를 '빌려 쓰는' 시대에서 '가져다 쓰는' 시대로 한 걸음 더 다가왔어요.
여러분 팀은 오픈 웨이트 모델을 실제로 서빙해본 적 있나요? API 비용과 GPU 운영비를 비교했을 때 어느 쪽이 더 합리적이었는지 경험을 나눠주세요!
🔗 출처: Hacker News