최근 6개월 LLM 흐름을 5분 안에 따라잡기: Simon Willison의 정리 노트

잠깐 한눈 팔면 따라잡기 힘든 LLM 세계

LLM 분야는 정말 정신없이 빠르게 굴러가요. 한 주만 트위터를 안 봐도 새로운 모델이 두세 개 나오고, 한 달 쉬면 업계 지형도가 통째로 바뀌어 있거든요. 그래서 LLM 관련 글을 꾸준히 써온 Simon Willison이 "지난 6개월 동안 LLM 분야에서 진짜 중요했던 것만 5분으로 압축해줄게" 하고 정리해준 노트는 입문자와 실무자 모두에게 좋은 지도가 돼요.

이게 어떤 글이냐면, Simon이 평소에 운영하는 블로그와 LLM 벤치마크 사이트의 관찰을 모아서, 모델·도구·에이전트·개발자 경험의 네 가지 축으로 흐름을 짚어주는 거예요. 짧지만 "이 흐름을 모르면 한 분기는 뒤처진다" 싶은 포인트들을 담고 있어서, 빠르게 따라잡고 싶은 분들에게 꽤 유용해요.

핵심 흐름 1: 추론 모델의 일상화

첫 번째로 짚고 갈 건 추론(reasoning) 모델의 일상화 예요. 작년 말까지만 해도 "생각하는 모델"이라는 개념이 신기했는데, 이제는 OpenAI의 o 시리즈, Anthropic의 Claude, Google의 Gemini, DeepSeek, Qwen 같은 거의 모든 주요 라인업이 추론 모드를 기본으로 탑재하고 있어요. 추론 모델이 뭐냐면, 답을 바로 뱉지 않고 마음속으로 한참 생각한 다음에 답하는 모델이거든요. 이게 가능해진 이유는 강화학습으로 "긴 사고 사슬을 따라가는 능력"을 명시적으로 훈련시켰기 때문이에요.

수학·코딩·복잡한 분석 같은 영역에서 성능이 정말 많이 올라갔고요. 대신 응답 시간이 길어지고, 토큰을 더 많이 써서 비용이 올라가는 부작용도 있어요. 그래서 요즘 API들은 "이 요청은 가볍게 답해" / "이 요청은 깊게 생각해" 같은 추론 강도 조절 옵션을 제공하는 게 보통이에요.

핵심 흐름 2: 오픈 웨이트의 진격

두 번째 흐름은 오픈 웨이트 모델의 약진 이에요. 작년만 해도 "오픈소스 모델은 프론티어보다 한참 뒤처진다"는 게 정설이었거든요. 그런데 DeepSeek과 Qwen이 연달아 강력한 모델을 풀어버리면서 그 격차가 거의 사라졌어요. 특히 코딩 벤치마크에서는 폐쇄형 모델과 어깨를 나란히 하거나 일부 항목에서 앞서기도 해요. 모델 가중치를 직접 받아서 자기 인프라에 띄울 수 있다는 건 보안·규제·비용 측면에서 큰 의미라서, 기업 환경에서 도입을 검토하는 곳이 정말 많아졌어요.

동시에 모델 가격은 계속 떨어지고 있어요. 같은 성능을 1년 전 대비 10분의 1 비용으로 쓸 수 있는 게 흔해졌고, 작은 모델(미니/하이쿠/플래시 급)이 어지간한 작업에서 충분히 쓸 만해지면서, "가장 비싼 모델만 쓰던" 시대에서 "태스크별로 모델을 골라 쓰는" 시대로 넘어가는 중이에요.

핵심 흐름 3: 에이전트와 도구 사용의 정착

세 번째는 에이전트(agent) 패러다임의 정착 이에요. 에이전트가 뭐냐면, LLM이 사람처럼 "목표를 받고, 도구를 골라 쓰고, 중간 결과를 보고 다음 행동을 결정하는" 방식으로 일하는 걸 말해요. 작년에는 "신기한 데모" 정도였다면, 지금은 진짜 실무 도구로 자리 잡아가고 있어요. 코드 작성을 통째로 맡기는 Claude Code, Cursor, Codex 같은 에이전트형 IDE가 개발자 일상에 들어왔고, 브라우저를 직접 조작하는 컴퓨터 유즈 같은 기능도 점점 안정화되는 분위기예요.

이 흐름의 핵심 기술 중 하나가 MCP(Model Context Protocol) 예요. Anthropic이 제안한 표준인데, 모델과 도구 사이의 연결 규격을 통일해서 "한 번 만든 MCP 서버는 어느 에이전트에서도 쓸 수 있다"는 생태계가 만들어지고 있어요. 마치 USB 표준이 주변기기 시장을 키운 것처럼, MCP가 에이전트 도구 시장의 표준 콘센트 역할을 하는 셈이에요.

핵심 흐름 4: 멀티모달과 긴 컨텍스트

네 번째 축은 멀티모달과 긴 컨텍스트의 일반화 예요. 텍스트만 다루던 모델들이 이미지·오디오·비디오까지 자연스럽게 입력으로 받게 되었고, 출력도 텍스트뿐 아니라 이미지·음성으로 확장되고 있어요. 컨텍스트 윈도우는 이제 100만 토큰을 기본으로 광고하는 곳이 늘었는데, 책 한 권 분량을 통째로 던지고 분석을 시키는 게 흔한 일이 됐죠. 다만 "광고된 컨텍스트 길이"와 "실제로 그만큼 잘 활용하는 성능"은 다르다는 점은 여전히 주의해야 해요.

한국 개발자에게 주는 시사점

한국 개발자 관점에서 보면, 이 흐름은 몇 가지 실용적 메시지를 줘요. 첫째, 모델 락인을 피하는 추상화 가 점점 중요해져요. 모델이 6개월마다 갈아엎히는 환경에서 한 모델에 강결합된 코드를 짜면 금방 부담이 돼요. LiteLLM 같은 라우터나 자체 추상화 레이어를 두는 게 점점 일반적인 패턴이 되고 있고요. 둘째, 에이전트 경험을 직접 써봐야 감이 와요. 글로 읽는 것과 실제로 Claude Code나 Cursor에 한 주짜리 사이드 프로젝트를 맡겨보는 건 체감이 완전히 달라요. 셋째, MCP 서버를 한 번쯤 만들어보세요. 기존 사내 도구나 데이터베이스를 MCP로 노출하면, 사내에서 쓰는 어떤 LLM에서든 그걸 호출할 수 있어서 ROI가 좋은 투자예요.

마무리

한 줄 요약: 추론·오픈 웨이트·에이전트·멀티모달, 이 네 축을 모두 다루지 못하면 2026년 LLM 활용은 절반만 보고 있는 거예요.

여러분은 지난 6개월 동안 가장 인상 깊었던 LLM 변화가 뭐였나요? 그리고 지금 일하는 환경에서 가장 먼저 도입해보고 싶은 변화는 어떤 거인가요?