누가, 왜 이런 말을 했을까요
『딥 워크』, 『디지털 미니멀리즘』으로 한국에도 잘 알려진 칼 뉴포트(Cal Newport)가 'It's Time to Investigate the AI Labs(이제 AI 연구소를 조사할 때다)'라는 글을 썼어요. 뉴포트는 자기계발 작가로 더 유명하지만, 본업은 조지타운대학교 컴퓨터과학과 교수예요. 그래서 기술을 잘 모르는 사람의 막연한 불안이 아니라, 컴퓨터과학자가 던지는 문제 제기라는 점에서 무게가 좀 달라요.
뉴포트는 그동안 여러 글에서 AI 업계의 과장된 전망에 차분하게 의문을 던져 왔어요. 이번 글의 메시지는 제목 그대로예요. OpenAI, Anthropic, Google DeepMind 같은 AI 연구소들을 이제는 '대단한 혁신 기업'으로 감탄만 할 대상이 아니라, 외부에서 제대로 검증해야 할 권력으로 봐야 한다는 거예요.
'조사'가 왜 필요하다는 걸까
이 주장이 나오는 배경을 이해하려면 지금 AI 업계가 어떤 상황인지 먼저 보면 돼요.
첫째, 주장의 규모가 너무 커요. AI 연구소들은 곧 사람 수준의 지능(AGI)이 온다, 수많은 일자리가 대체된다, 과학 연구가 폭발적으로 빨라진다 같은 거대한 전망을 내놓아요. 이런 말들은 투자 유치, 주가, 정책, 심지어 대학생들의 전공 선택에까지 영향을 주죠. 그런데 이 말이 얼마나 근거가 있는지 독립적으로 검증하는 장치는 거의 없어요.
둘째, 돈과 자원이 전례 없이 몰리고 있어요. 데이터센터 하나 짓는 데 조 단위 돈이 들어가고, 전력과 물 사용량도 엄청나요. 이 정도로 사회적 자원을 끌어다 쓰는 산업이라면, 그 근거가 되는 주장도 그만큼 꼼꼼히 따져봐야 한다는 논리예요.
셋째, 검증할 정보가 대부분 회사 안에 있어요. 모델이 어떤 데이터로 학습됐는지, 내부 안전성 테스트 결과가 어땠는지, 벤치마크 점수가 실제 성능을 얼마나 반영하는지 같은 핵심 정보는 회사가 공개하는 만큼만 알 수 있어요. 이게 뭐냐면, 자동차 회사가 연비 테스트를 스스로 하고 결과만 발표하는 상황과 비슷해요. 자동차 업계는 독립된 기관이 연비와 안전을 검증하잖아요. AI에는 아직 그런 게 거의 없는 거죠.
여기서 '조사'는 꼭 수사기관의 강제 수사만 말하는 게 아니에요. 탐사 저널리즘, 의회 청문회, 규제 기관의 정보 요구, 독립 연구자의 감사까지 포함하는 넓은 의미의 외부 검증이라고 이해하면 돼요.
업계 흐름에서 보면
사실 규제와 감시의 움직임은 이미 시작됐어요. 유럽연합은 AI Act를 만들어 단계적으로 시행하고 있고, 미국 FTC는 2024년에 빅테크와 AI 스타트업 사이의 대규모 투자·제휴 관계를 들여다보는 조사에 나선 적이 있어요. 한국도 AI 기본법이 2026년 1월부터 시행되면서 고영향 AI와 생성형 AI에 대한 투명성 의무가 생겼고요.
하지만 이런 규제는 주로 'AI를 어떻게 쓰느냐'에 초점이 맞춰져 있어요. 뉴포트 같은 비판자들이 겨누는 건 조금 달라요. AI 연구소들이 스스로에 대해 하는 말, 그러니까 역량과 전망에 대한 주장 자체가 사실인지를 따져보자는 거예요. 기술 기업의 발표를 거의 그대로 받아쓰는 보도 관행에 대한 비판이기도 하고요.
물론 반론도 만만치 않아요. 과도한 조사와 규제가 혁신 속도를 늦추고, 결국 규제가 느슨한 나라로 경쟁 우위가 넘어갈 거라는 주장이죠. 또 AI의 실제 성능 향상은 부정할 수 없을 만큼 눈에 보인다는 반박도 있어요. 결국 이 논쟁의 핵심은 'AI가 대단하냐 아니냐'가 아니라, '대단하다는 주장을 누가 어떻게 검증하느냐'예요.
한국 개발자에게 주는 시사점
거창한 정책 이야기 같지만, 개발자 일상에도 바로 연결돼요.
- 벤치마크 점수를 그대로 믿지 마세요. 새 모델이 나올 때마다 점수 표가 쏟아지지만, 학습 데이터에 테스트 문제가 섞여 들어가는 '벤치마크 오염' 문제는 계속 지적돼 왔어요. 우리 서비스에 맞는 자체 평가 세트(eval set)를 만들어 직접 비교하는 습관이 제일 확실해요.
- 벤더 발표와 실제 운영은 다르다는 걸 기억하세요. 데모에서 잘 되는 것과 우리 트래픽, 우리 데이터에서 잘 되는 건 전혀 다른 문제예요. 도입 전에 작게 PoC(개념 검증)를 해보는 게 결국 비용을 아껴줘요.
- 특정 모델 하나에 올인하지 마세요. AI 연구소들의 사업 방향이나 정책은 외부 압력에 따라 언제든 바뀔 수 있어요. 모델을 쉽게 교체할 수 있는 추상화 계층을 두는 게 안전해요.
- 규제 동향을 챙겨보세요. AI 기본법 시행으로 생성형 AI 결과물 표시 같은 의무가 생긴 만큼, AI 기능을 넣는 서비스라면 법적 요건도 설계 단계부터 고려해야 해요.
마무리
한 줄로 정리하면, AI가 세상을 바꿀 만큼 강력하다면, 그 주장을 하는 회사들도 그만큼 엄격하게 검증받아야 한다는 거예요.
여러분은 AI 연구소들의 발표를 얼마나 믿으시나요? 그리고 AI 업계에도 자동차 연비 검증처럼 독립된 외부 검증 기관이 필요하다고 보시나요, 아니면 시장과 사용자가 알아서 걸러낼 거라고 보시나요?
🔗 출처: Hacker News