안드레이 카르파티가 지난 4월에 올렸던 글을 다시 꺼내 든 이유는 분명하다. LLM의 실제 능력에 대한 사람들 사이의 공통된 이해가 좁혀지기는커녕 오히려 더 벌어지고 있다는 진단 때문이다. 그는 이 상황을 더 이상 '서로 다른 말을 하는 두 집단의 엇갈림'으로 보기 어렵다고 했다. 대신 '날카로운 깔때기(sharp funnel)'에 가깝다는 표현을 썼다. 즉 능력을 제대로 체감하고 최전선에서 활용하는 사람은 점점 좁은 꼭짓점으로 모이고, 그 바깥에는 거의 접해보지 못한 거대한 층이 넓게 펼쳐져 있다는 것이다.
그가 제시한 어림셈(napkin math)은 이 격차의 규모를 직관적으로 보여준다. 전 세계 인구의 약 75%, 대략 60억 명에 가까운 사람들이 LLM을 거의 접해본 적이 없다는 추정이다. 이 숫자는 정밀한 통계라기보다 논의를 위한 가늠자에 가깝지만, 역설적으로 그렇기 때문에 더 설득력이 있다. 기술 업계 안에서는 모델의 성능과 한계를 매일 체감하며 토론하지만, 그 바깥의 압도적 다수에게 LLM은 여전히 뉴스 헤드라인 속 추상적 개념이거나 한 번도 열어보지 않은 앱에 머물러 있다.
왜 격차가 좁혀지지 않고 벌어지는가
보통 새로운 기술은 시간이 지나면 보급이 확산되면서 이해의 폭도 평평해진다고 기대한다. 그런데 LLM에서는 반대 현상이 관찰된다. 최전선의 모델 능력이 빠르게 올라갈수록, 그 능력을 실제로 활용해 본 사람과 그렇지 않은 사람 사이의 체감 격차는 오히려 커진다. 모델을 매일 다루는 사람은 새로운 활용법과 한계를 계속 학습하며 꼭짓점을 따라 올라가지만, 입구에 발을 들이지 않은 사람은 출발선에 그대로 머문다. 능력의 발전 속도가 보급과 학습의 속도를 앞지르는 한, 깔때기는 계속 날카로워진다.
이 구조가 중요한 이유는 LLM에 대한 공적 논의의 질을 떨어뜨리기 때문이다. 한쪽에서는 모델이 실무를 바꾸고 있다고 말하고, 다른 쪽에서는 '그래봤자 그럴듯한 말장난'이라고 일축한다. 두 진술은 서로 다른 경험의 층위에서 나온 것이어서, 사실 같은 대상을 말하고 있는지조차 불분명하다. 공통의 기준점이 없으니 토론은 설득이 아니라 평행선이 되고, 과장과 냉소가 양 극단에서 동시에 증폭된다.
한국 IT 실무자에게 주는 함의
실무 관점에서 이 진단은 몇 가지 현실적인 시사점을 남긴다. 첫째, 조직 안에서 'AI를 쓴다'는 말의 의미가 사람마다 크게 다를 수 있다는 점을 전제로 삼아야 한다. 같은 팀 안에서도 매일 코드 생성과 문서 작업에 모델을 붙여 쓰는 사람과, 한두 번 질문을 던져보고 만 사람의 능력 평가는 전혀 다른 궤도 위에 있다. 도구 도입을 논의할 때 이 체감 격차를 무시하면, 기대치 설정부터 어긋나기 쉽다.
둘째, 격차가 벌어진다는 사실 자체가 기회의 비대칭을 만든다. 꼭짓점에 가까이 있을수록 새 능력을 먼저 업무에 녹여 생산성 우위를 가져가고, 입구 바깥에 머물수록 그 변화를 뒤늦게 전해 듣게 된다. 개인이든 조직이든, 모델을 실제 업무 흐름에 반복적으로 붙여 쓰며 한계와 쓸모를 직접 가늠해 보는 경험의 축적이 결국 평가의 정확도를 가른다. 외부의 과장이나 냉소를 그대로 받아들이기보다 자기 손으로 검증한 체감이 필요한 이유다.
어림셈이 가진 한계
다만 이 진단을 받아들일 때 함께 짚어야 할 한계도 있다. 60억 명이라는 숫자는 정식 조사 결과가 아니라 논의를 돕기 위한 어림셈이며, '거의 접해보지 못했다'는 기준도 느슨하다. 지역·언어·소득에 따라 접근성의 편차가 크다는 점, 그리고 '접해봤다'는 것과 '능력을 이해한다'는 것이 전혀 다른 층위라는 점도 이 하나의 숫자로는 드러나지 않는다. 카르파티의 지적은 정밀한 측정이라기보다 방향성에 대한 경고로 읽는 편이 적절하다. 핵심은 수치의 정확성이 아니라, 능력 발전이 보급과 이해를 앞지르는 동안 공통의 언어가 사라지고 있다는 구조적 관찰에 있다.