무슨 일이 있었나요
미시간대학교가 생성형 AI는 영어가 아닌 텍스트를 다룰 때 에너지를 더 많이 쓴다는 연구 결과를 공개했어요. 같은 내용이라도 어떤 언어로 주고받느냐에 따라 데이터센터에서 쓰는 전력량이 달라진다는 얘기예요.
한국어로 AI를 쓰는 우리한테는 남의 일이 아니죠. AI 전력 소비가 사회적인 이슈가 된 지금, '어떤 모델이 전기를 많이 먹나'를 넘어 '어떤 언어가 전기를 많이 먹나'라는 질문이 나왔다는 것 자체가 의미가 커요. 왜 이런 차이가 생기는지 원리부터 살펴볼게요.
핵심은 토큰이에요
이런 차이를 설명할 때 가장 먼저 꼽히는 원인은 토큰화예요. 이게 뭐냐면, LLM은 글자를 그대로 읽지 않고 '토큰'이라는 조각으로 잘라서 처리하거든요. 레고 블록으로 문장을 조립한다고 생각하면 돼요. 영어 단어는 큼직한 블록 하나로 끝나는 경우가 많은데, 다른 언어는 작은 블록 여러 개를 이어 붙여야 하는 경우가 많아요.
왜 그럴까요? 토크나이저는 대량의 텍스트에서 '자주 붙어 나오는 글자 묶음'을 통계적으로 찾아서 사전을 만들어요. BPE라는 방식이 대표적이에요. 그런데 학습에 쓰인 텍스트가 영어 위주다 보니 사전도 영어에 유리하게 짜여 있어요. 영어 'Hello'는 보통 토큰 하나인데, '안녕하세요'는 토크나이저에 따라 여러 조각으로 쪼개지기도 해요. 한글은 UTF-8에서 한 글자가 3바이트라서, 사전에 없는 조합이 나오면 바이트 단위까지 잘게 쪼개지는 경우도 생기고요.
그리고 토큰 수는 곧 연산량이에요. LLM은 답을 한 번에 뱉는 게 아니라 토큰을 하나씩 순서대로 만들어요. 토큰 하나를 만들 때마다 거대한 신경망을 한 번씩 통과해야 하죠. 같은 뜻의 문장이 영어로 100토큰인데 다른 언어로 200토큰이라면, GPU는 대략 두 배 가까이 더 일해야 하는 셈이에요. 일을 더 하면 전기도 더 쓰는 거고요.
이 '언어별 토큰 격차'는 이전부터 알려져 있었어요. 2023년 NeurIPS에 발표된 한 연구는 같은 내용을 여러 언어로 번역해 비교했더니 토큰 길이가 언어에 따라 최대 15배까지 벌어진다고 보고했어요. API 요금이 토큰 단위로 매겨지다 보니 비영어권 사용자는 같은 일을 하고도 돈을 더 내는 구조였고, 이걸 '토큰 세금'이라고 부르기도 해요. 이번 소식은 그 세금이 요금 고지서뿐 아니라 전력 계량기에도 찍힌다는 점을 짚은 셈이에요.
업계 흐름에서 보면
미시간대는 생성형 AI 추론의 에너지 소비를 실제로 측정해서 공개하는 ML.ENERGY 리더보드로도 알려져 있는데요, 이런 작업들 덕분에 AI의 전력 소비는 막연한 추정에서 실측의 영역으로 넘어오고 있어요. 그동안의 비교가 모델 크기나 하드웨어 중심이었다면, 이제는 '누가 어떤 언어로 쓰느냐'까지 변수로 들어온 거예요.
모델 회사들도 손 놓고 있진 않았어요. 최신 토크나이저일수록 비영어 텍스트를 더 적은 토큰으로 표현하도록 개선되는 추세이고, 하이퍼클로바X나 엑사원처럼 한국어 데이터로 토크나이저를 다듬은 국산 모델은 한국어 문장을 상대적으로 적은 토큰으로 처리하는 걸 강점으로 내세우기도 해요. 다만 글로벌 범용 모델은 수많은 언어를 하나의 사전에 담아야 해서, 특정 언어에만 최적화하기 어렵다는 구조적인 한계가 있어요. 언어 간 격차가 줄어들 수는 있어도 완전히 사라지긴 어려운 이유예요.
한국 개발자에게 주는 시사점
당장 해볼 수 있는 건 측정이에요. OpenAI 계열이라면 tiktoken으로 len(enc.encode(text))만 찍어봐도 내 서비스의 프롬프트가 한국어로 몇 토큰인지, 영어로 바꾸면 얼마나 줄어드는지 바로 보여요. 감으로 짐작하던 걸 숫자로 확인하는 것만으로도 최적화 방향이 잡혀요.
실무에서 써먹을 만한 방법도 몇 가지 있어요. 사용자에게 보이지 않는 시스템 프롬프트나 긴 지침은 영어로 쓰고 최종 답변만 한국어로 받는 방식, 반복되는 긴 컨텍스트에 프롬프트 캐싱을 적용하는 방식, 답변 길이 상한을 적절히 거는 방식이 대표적이에요. 특히 출력 토큰은 하나하나 순서대로 생성되기 때문에 입력보다 비용이 크다는 점을 기억해 두세요. 한국어 서비스 비중이 크다면 한국어 토큰 효율이 좋은 모델을 후보에 넣고 비교해 보는 것도 방법이에요.
다만 토큰을 아끼려고 품질을 희생하면 본말전도예요. 영어 프롬프트가 한국어 뉘앙스를 놓쳐서 재질문이 늘어나면 오히려 토큰도 전기도 더 써요. 측정하고, 비교하고, 품질이 유지되는 선에서 줄이는 게 순서예요.
마무리
한 줄로 정리하면, AI에게 언어는 공짜가 아니고, 영어가 아닌 언어는 조금 더 비싸다는 거예요. 요금으로도, 전력으로도요.
여러분 서비스는 한국어 프롬프트가 영어 대비 몇 배의 토큰을 쓰고 있나요? 시스템 프롬프트를 영어로 바꿔서 효과를 본 경험이 있다면 공유해 주세요.
덧붙임: 이 글은 원문 기사를 그대로 옮긴 것이 아니라, 소식의 요지와 공개된 배경 지식을 바탕으로 풀어 쓴 해설이에요. 연구의 정확한 측정 방법과 수치는 원문에서 확인해 주세요.
🔗 출처: Hacker News