지난 몇 달 사이 OpenAI와 Anthropic의 대형 언어모델(LLM) 사용 비용이 가파르게 내려갔다. 블로그 minimaxir의 분석은 두 회사의 모델 발표 흐름을 입력/출력/캐시 읽기(MTok 단위) 가격으로 정리하며, 이 하락이 우연이 아니라 서로를 겨냥한 연쇄적 가격 경쟁과 외부 압력의 결과임을 짚는다. 한국의 실무자에게 이 변화는 단순한 뉴스가 아니라, 에이전트형 코딩 도구의 운영 비용 구조와 벤더 선택 전략을 다시 계산하게 만드는 사건이다.
주고받기식 가격 인하의 타임라인
6월 GPT-5.6 계열이 나온 뒤 흐름은 뚜렷한 맞불의 연속이었다. OpenAI는 소형 모델 GPT-5.6 Luna의 가격을 80% 내려 $0.20/$1.20/$0.02로 책정했고, 주력 모델 GPT-5.6 Sol도 석 달 한정으로 약 20% 인하했다. Anthropic은 출시 당시 임시였던 Claude Sonnet 5의 저가($2/$10/$0.20)를 영구화했고, Opus 5는 $5/$25/$0.50에 내놨다. 이어 OpenAI의 GPT-6 Sol은 입력·출력 가격을 다시 절반으로($2/$10/$0.20) 낮췄고, 같은 날 Anthropic은 'Opus 5보다 서빙에 드는 연산이 적고 가격이 이를 반영한다'며 Opus 5.5를 $4/$20/$0.20에 공개했다. 성능이 기대에 못 미친 GPT-6 Sol은 일주일 만에 GPT-6.1 Sol로 대체되며 캐시 가격을 절반($2/$10/$0.10)으로 더 깎았다. Vercel의 게이트웨이 데이터 기준으로 토큰당 비용은 4월 대비 43.3% 수준까지 떨어졌다.
왜 캐시 읽기 가격이 핵심인가
이 숫자들에서 실무적으로 가장 중요한 지점은 캐시 읽기 비용이다. 에이전트로 코드를 작성할 때 매 턴마다 이전 대화 전체가 캐시에 담기기 때문에, 캐시 읽기가 전체 토큰 지출의 96~99%를 차지하고 캐시 적중률도 90~100%에 이른다. 그래서 Anthropic이 Fable 5.1에서 캐시 읽기 비용을 75% 깎은 것은, 겉보기엔 각주 수준의 항목처럼 보여도 실제 사용 비용을 70~75% 줄이는 효과로 이어진다. 입력·출력 단가만 비교해서는 체감 비용을 제대로 가늠할 수 없다는 뜻이다. 모델을 고를 때 캐시 읽기 단가와 적중률을 함께 따져 '실효 비용'을 계산하는 습관이 필요하다.
오픈 웨이트 모델이 만든 바닥 압력
가격 하락의 배경에는 오픈 웨이트 모델이라는 외부 압력이 있다. 4월에 나온 DeepSeek V4 Flash는 $0.14/$0.28/$0.0028로 입력 대비 2%에 불과한 낮은 캐시 읽기 비율 덕에 화제가 됐고, 저자는 7월 Luna의 80% 인하가 이들을 겨냥한 조치였다고 본다. 갱신판 DeepSeek Flash V4.1은 Artificial Analysis 지수에서 24에서 45로 올라서면서도 가격은 비슷하게 유지됐다. 더 중요한 변화는 공급 구조다. OpenRouter에서 이 모델을 호스팅하는 공급자는 5월 13곳에서 29곳으로 늘었고, Cloudflare와 DeepInfra는 DeepSeek 자체 비용의 10% 이내까지 근접했다. 여기에 Moonshot AI는 Opus 5.5에 견줄 성능(Kimi 55 대 Opus 5.5 58)의 Kimi K3.1 Pro를 입력·출력 기준 절반 가격으로 예고하며 11월 4일 가중치 공개를 앞두고 있다.
'진짜 원가'론의 허점
일각에서는 Uber·Lyft처럼 지금은 손해를 보며 이용자를 끌어모은 뒤 언젠가 '토큰의 진짜 원가'를 청구할 것이라고 경고해 왔다. 그러나 저자는 당시와 달리 OpenAI·Anthropic이 가격을 좌우하는 복점(複占) 구조가 아니며 추론 산업의 진입 장벽도 높지 않다는 점을 지적한다. 수십 곳의 공급자가 손해 보는 모델을 계속 서빙할 이유가 없고, 손해라면 그 연산 자원을 수익이 나는 모델로 돌릴 것이기 때문이다. 전환 비용이 사실상 없는 상황에서 가격은 한계비용 수준으로 수렴할 가능성이 크다. 실제로 일부 보도는 추론의 토큰당 마진이 조건부로 80%에 이를 만큼 건강하다고 전한다.
흥미로운 점은 이 모든 일이 두 회사의 IPO 시점(OpenAI는 2027년, Anthropic은 수개월 내로 거론)과 맞물린다는 것이다. 주 수익원의 가격을 80%까지 낮추는 것은 상장 서류상 좋아 보일 행동이 아니지만, 그만큼 추론 자체의 수익성은 다른 이야기를 하고 있는 셈이다. 두 회사가 기업 계약과 OpenAI Dots, Claude Duet 같은 개인형 에이전트로 해자를 쌓으려는 것도 이 흐름에 대한 방어로 읽힌다.
실무자에게 남는 질문
정작 가격 인하가 소비 행동에 미친 영향은 벤더의 기대와 어긋날 수 있다. 저자는 GPT-6.1 Sol로 실효 비용이 75% 줄자 월 100달러 Codex 구독의 사용 한도를 5분의 1로 낮췄다고 밝힌다. 같은 모델을 4배 효율적으로 쓰게 됐으니 결과적으로 지출은 비슷해진다는 것이다. 또한 OpenAI는 GPT-6.1 Sol 발표와 동시에 월 200달러 Codex 등급의 사용 허용량을 '더 효율적인 모델을 반영한다'는 명분으로 50% 줄였다. API 단가가 내려가도 구독형 상품의 가치는 자본 압박 국면에서 먼저 조정될 수 있다는 신호다. 한국 팀이라면 단가표의 인하폭에 안도하기보다, 캐시 실효 비용과 구독 한도 변화를 함께 추적하며 벤더 종속을 경계하는 편이 현실적이다.