컴퓨터과학자이자 작가인 칼 뉴포트가 최근 뉴욕타임스에 기고한 칼럼에서 미국 의회가 OpenAI와 Anthropic에 대한 공개 진상조사에 착수해야 한다고 주장했다. 그는 이 두 선도적 프런티어 AI 연구소가 지난 몇 달 동안 보여준 행태를 문제 삼으며, 소수의 민간 기업이 AI를 둘러싼 사회적 감정과 규제 방향을 좌우하도록 방치해서는 안 된다고 지적했다.
뉴포트가 정리한 흐름은 이렇다. 먼저 OpenAI가 치밀하게 기획된 일련의 발표와 보고서를 통해 자사의 LLM 기반 에이전트 시스템이 얼마나 강력하고 불안감을 주는 수준에 이르렀는지를 부각했다. 이어 Anthropic 소속 직원들은 이 기술이 인류 멸종으로 이어질 확률이 얼마인지를 공개적으로 논쟁하기 시작했다. 그는 이런 발언들이 마치 거스를 수 없는 숙명을 이야기하듯 기묘하게 차분한 태도로 전달됐다고 묘사한다.
'프런티어를 조율하자'는 편지의 논리
논쟁의 정점은 Anthropic CEO 다리오 아모데이가 공개한 편지 '우리는 프런티어의 속도를 조율해야 한다(We Must Pace the Frontier)'였다. 뉴포트의 요약에 따르면, 아모데이는 자사 연구가 초래할 수 있는 여러 위험을 스스로 열거한 뒤, 사과하거나 개발을 멈추겠다고 말하는 대신 '올바른 방식으로 기술을 만들어야만' 재앙을 피할 수 있다고 결론짓는다. 그리고 그 '올바른 방식'이란 정부가 잠재적 경쟁자들의 속도를 늦추고, 대신 선도 연구소들이 관련 기술 개발을 앞서 나가도록 허용하는 것이라는 게 뉴포트의 해석이다. OpenAI의 샘 올트먼도 곧바로 트위터로 이 구상에 지지를 표했다.
뉴포트는 이런 태도의 뿌리를 연구소들이 오래 견지해온 '메시아적 사고'에서 찾는다. 자신들이야말로 초지능 AI의 위협에서 인류를 지킬 유일한 희망이라는 자기 인식이다. 그가 보기에 지난여름의 일련의 발언은 이 오래된 이데올로기에 대중까지 끌어들이려는 시도였지만, 결과적으로는 박수 대신 '저 안에서 대체 무슨 일이 벌어지고 있는가'라는 의문만 키웠다.
세 가지 조사 영역과 그 함의
이런 문제의식에서 뉴포트는 의회가 OpenAI와 Anthropic이 어떤 연구 프로젝트를, 어떤 방식으로, 어떤 목적을 위해 수행하고 있는지 규명해야 한다고 요구한다. 그는 질문을 던져야 할 세 가지 핵심 영역을 제시했다고 밝혔다(구체적 항목은 기고문 원문에 담겨 있다). 핵심 논지는 결론에 압축돼 있다. '점점 더 종잡을 수 없게 행동하고 말하는 소수의 민간 기업이 우리가 AI를 어떻게 느껴야 하는지를 좌우하도록 놔둬서는 안 된다. 그들이 하고 싶은 말은 들었으니, 이제 실제로 무슨 일이 벌어지는지를 우리를 대신해 밝혀낼 차례는 의회다.'
실무자 관점에서 이 글이 흥미로운 지점은, 기업 스스로가 위험을 공개적으로 강조하는 행위가 규제 지형에서 어떤 전략적 효과를 낳는지를 짚는다는 데 있다. 위험을 크게 부각할수록 '그 위험을 다룰 자격이 있는 소수 주자'라는 지위가 강화되고, 이는 곧 진입장벽과 규제 포획으로 연결될 수 있다. 안전 담론이 그 자체로 경쟁 정책의 도구가 될 수 있다는 것이다. AI 도입을 검토하는 조직이라면 벤더가 내놓는 위험 서사와 그 서사가 겨냥하는 이해관계를 분리해서 읽을 필요가 있다.
글에 달린 독자 반응도 이 논점을 확장한다. 한 독자는 젠슨 황과 에즈라 클라인의 인터뷰를 인용하며, 연구소가 정부에 '우리를 늦춰달라'고 요청하는 것은 책임 회피에 가깝다고 지적한다. 안전한 제품을 만드는 책임은 기업 자신에게 있고, 누구도 검증되지 않은 제품을 서둘러 출시하라고 압박하지 않는다는 것이다. 이 독자는 인력과 투자를 대폭 늘려 상당 부분을 안전과 테스트에 배정해야 하며, 그럼에도 안전하지 못한 제품 출시를 멈추지 못한다면 사업을 접는 편이 낫다는 강경한 견해까지 내놓았다.
다만 이 칼럼은 어디까지나 정책적 제안이자 문제 제기에 머문다. 의회 조사가 실제로 성사될지, 성사된다 해도 빠르게 진화하는 모델 개발의 내부를 입법 절차가 얼마나 실효성 있게 들여다볼 수 있을지는 미지수다. 뉴포트 자신도 연구소들의 발언 내용을 재구성해 비판하는 데 초점을 맞추고 있어, 기술적 능력에 대한 각 기업의 주장이 사실인지 아닌지에 대한 독립적 검증은 이 글의 범위를 벗어난다. 그럼에도 '기술을 만드는 쪽이 그 기술을 어떻게 느껴야 하는지까지 규정하게 두어서는 안 된다'는 문제의식은, 국내에서 AI 정책과 도입 논의를 이어가는 실무자들에게도 곱씹어볼 만한 질문을 남긴다.