무슨 이야기냐면요
요즘 개발 현장에서 OpenAI의 GPT나 앤트로픽의 클로드(Claude) 같은 ‘닫힌 모델(closed model)’을 API로 불러다 쓰는 게 거의 표준이 됐잖아요. 그런데 ‘이젠 오픈 모델로 갈아타도 손해 볼 게 별로 없다’는 목소리가 점점 커지고 있어요. 여기서 오픈 모델(정확히는 오픈 웨이트, open-weight 모델)이란, 모델의 가중치(weight, 학습으로 얻은 ‘뇌 속 숫자들’)를 공개해서 누구나 내려받아 자기 서버에서 직접 돌릴 수 있는 모델이에요. 라마(Llama), 큐원(Qwen), 딥시크(DeepSeek), 미스트랄(Mistral) 같은 것들이 대표적이죠.
닫힌 모델과 오픈 모델, 뭐가 다르냐면요
닫힌 모델은 회사 서버에 있는 모델을 인터넷 너머로 빌려 쓰는 구조예요. 편하긴 한데, 내 데이터가 그 회사 서버로 넘어가고, 가격이나 모델 정책을 그 회사가 마음대로 정해요. 어느 날 쓰던 모델 버전이 사라지면(deprecate) 갑자기 결과물이 달라져서 곤란해지기도 하고요. 반면 오픈 모델은 내가 파일을 통째로 받아서 내 서버, 내 통제 아래 돌리는 거예요. 데이터가 밖으로 안 나가고, 모델이 어느 날 사라질 걱정도 없고, 입맛대로 추가 학습(파인튜닝)도 할 수 있어요.
‘손해가 적다’는 말, 진짜일까요
핵심 근거는 성능 격차가 빠르게 좁혀졌다는 거예요. 1~2년 전만 해도 오픈 모델은 닫힌 최상위 모델에 한참 못 미쳤는데, 지금은 코드 작성, 요약, 분류, 일반 챗봇 같은 ‘실무에서 가장 많이 쓰는 작업’ 대부분에서 충분히 쓸 만한 수준이 됐어요. 게다가 비용 구조가 완전히 달라요. 닫힌 모델은 호출 한 번마다 돈이 빠져나가서 트래픽이 커지면 청구서가 무서워지는데, 오픈 모델은 GPU 한 번 깔아두면 그 위에서 얼마든지 돌릴 수 있어 대량 처리일수록 단가가 확 떨어져요. 여기에 데이터를 외부로 안 보내는 프라이버시, 모델을 내 도메인에 맞게 길들이는 커스터마이징까지 더하면 매력이 꽤 크죠.
그렇다고 공짜는 아니에요
물론 균형 있게 봐야 해요. 오픈 모델을 직접 돌리려면 GPU 서버를 갖추고 운영(배포, 스케일링, 장애 대응)하는 부담을 떠안아야 해요. 그리고 아주 복잡한 추론(reasoning)이나 긴 맥락을 다루는 고난도 에이전트 작업에서는 여전히 최상급 닫힌 모델이 한 발 앞서 있는 게 사실이고요. 그러니까 ‘무조건 갈아타라’가 아니라, 내가 하려는 작업이 이미 오픈 모델로 충분한 영역인지를 따져보자는 게 더 정확한 메시지예요.
업계 흐름에서 보면
이 흐름은 딥시크가 적은 비용으로 최상위급 성능을 보여주며 한 번 크게 충격을 준 뒤로 확 빨라졌어요. 중국의 큐원, 메타의 라마 계열이 오픈 생태계를 두텁게 받치고 있고, 심지어 OpenAI마저 오픈 웨이트 모델(gpt-oss)을 내놓으면서 ‘닫힌 진영 대 오픈 진영’의 경계가 흐려지는 중이에요. 한때 ‘오픈은 장난감’이라던 시선이 ‘오픈으로도 프로덕션이 된다’로 바뀌고 있는 거죠.
한국 개발자에게 주는 시사점
특히 한국에서는 의미가 커요. 첫째, 금융·의료·공공처럼 데이터를 외부로 보내면 안 되는 규제 산업에서는 내 서버에서 도는 오픈 모델이 사실상 유일한 현실적 선택이 될 때가 많아요. 둘째, 한국어를 잘하는 오픈 모델이 늘면서, 작은 모델을 우리 도메인 데이터로 파인튜닝해 쓰는 ‘sLLM’ 전략이 점점 실용적이 되고 있고요. 셋째, 비용. 사용자 많은 서비스라면 API 종량제보다 자체 호스팅이 장기적으로 훨씬 쌀 수 있어요. 다만 운영 역량이 필요하니, 작게 PoC로 시작해 비용·품질을 직접 비교해 보는 걸 추천해요.
한 줄 정리
오픈 모델은 더 이상 ‘저렴한 대체재’가 아니라 많은 실무 작업에서 진지한 1순위 선택지가 됐어요. 다만 갈아타기 전에 ‘내 작업이 그 영역에 드는지’와 ‘운영 부담을 감당할 수 있는지’를 꼭 저울질해 보세요.
여러분 팀은 지금 어떤 작업을 닫힌 모델로, 어떤 작업을 오픈 모델로 돌리고 계세요? 실제로 갈아타 보니 체감 품질 차이가 어땠는지 궁금하네요.
🔗 출처: Hacker News