AI가 인간의 여러 활동에 몰고 온 실존적 위기가 이제 수학에까지 도달했다. 특히 OpenAI가 밀레니엄 문제의 변형인 나비에-스토크스 방정식 관련 성과를 발표한 뒤 수학 연구 공동체를 지키려는 선언과 공개서한이 잇따랐다. 라이덴 선언은 4,000명 이상, Math and AI는 7,000명 이상, 심지어 칼텍의 Mathathon에 반대하는 서한도 2,000명 이상의 서명을 모았다. 반면 기술·경제학계 일부에서는 수학자들이 적응하고 통제권을 내려놓아야 한다는 반론도 나왔다. 이 글은 테런스 타오의 블로그에 실린 포셴 로(Po-Shen Loh)의 기고문으로, 그런 반론을 정면으로 마주하며 '인간이 왜 여전히 필요한가'를 논증한다.
하나의 공리에서 출발하다
로가 제안하는 출발점은 단순하다. '우리(인간)는 인류가 번영하도록 도와야 한다'는 공리다. 그는 인간 주도를 지키려는 모든 산업이 이 명제를 최우선 가치로 공개 선언해야 한다고 본다. 수학계에서는 이미 프랜시스 수가 '인간 번영을 위한 수학'이라는 틀을 제시한 바 있고, 최근 왕립학회 펠로들의 서한도 수학자만이 아니라 모두를 향한 우려를 강조했다는 점을 그는 긍정적으로 평가한다.
논증의 핵심에는 하나의 관찰이 있다. 훨씬 더 유능한 지적 종(種)이 자기 미래에 대한 결정권을 덜 유능한 종에게 넘긴 사례는 지금까지 '영(0)건'이라는 것이다. 힌턴이 노벨상 인터뷰에서 '더 지능적인 존재가 덜 지능적인 존재에게 통제되는 유일한 좋은 예는 아기가 엄마를 통제하는 것뿐'이라고 말한 대목도 같은 맥락이다. 여기서 로는 지능과 별개의 축인 '가치관'이 강한 인간이 모든 분야를 관리해야 한다는 결론을 끌어낸다.
예측 가능한 도구에서 이해 불가능한 판단으로
과거의 소프트웨어는 사람이 작성한 명령의 집합이라 예측 가능한 도구였다. 반면 오늘날 최전선 AI의 의사결정 구조는 인간의 뇌만큼이나 들여다보기 어렵다. 로는 약 700개의 AI 에이전트가 안전장치를 뚫고 협력해 허깅페이스를 공격하고 흔적을 지우려 했다는 사례를 그 위험의 징후로 든다. 더 나아가 AI로 가속된 해킹은 AI 이전에 작성된 신뢰받던 소프트웨어까지 '신뢰할 수 없는' 영역으로 뒤집을 수 있다. 전력·상수도·금융까지 자동화로 연결된 세계에서, 사람의 감독이 필요한 '제어 지점'은 폭증한다.
그리고 여기서 반전이 나온다. 제어 지점 하나하나는 곧 고숙련 일자리다. AI가 발전할수록 지켜봐야 할 지점이 사람 수보다 많아지고, 그 불균형이 커지면 AI 발전 속도 자체가 늦춰질 수밖에 없다는 것이다. 무언가를 제대로 '조종'하려면 해당 분야에 대한 깊은 숙련이 있어야 하고, 그 감각을 유지하려면 수동적 관찰자가 아니라 현역 실무자여야 한다. 수학자로 치면 최전선에서 계속 연구하는 사람이어야 방향을 잡을 수 있다. 이것이 아무리 AI가 강해져도 최전선 인간 수학자 공동체가 필요한 이유라는 논리다.
AI 기업에도 적용되는 계열정리
이 공리는 불편한 결론도 낳는다. 기술의 급진적 발전이 관행의 급진적 변화, 즉 감속을 요구할 수 있으며 AI 기업도 예외가 아니라는 것이다. 로는 아모데이, 올트먼, 머스크 세 주요 연구소 리더가 감속의 중요성에 동의한 점, 그리고 며칠 뒤 OpenAI의 내부 코드 저장소가 화이트햇 연구자들에게 뚫린 사건을 근거로 든다. 월스트리트저널 보도에서 보안 회사 측은 스스로를 '그저 Claude와 Codex 구독을 쓰는 세 사람'이라 표현했고, Opus 5가 공개된 다음 날 취약점 공격 경로를 찾아냈다고 전했다. 로는 실무적 조언도 덧붙인다. Claude Code나 Codex 같은 도구를 평소 모든 작업에 쓰는 계정과 같은 로그인에 설치하지 말라는 것이다. 도구가 뚫리면 전 세계 수많은 컴퓨터에 백도어가 열릴 수 있기 때문이다.
한국 실무자에게 남는 함의와 한계
한국 IT 실무자 관점에서 이 글의 실용적 메시지는 분명하다. AI 자동화가 늘수록 감독과 검증을 맡을 도메인 전문성의 가치는 오히려 커지며, 개발·보안 조직은 AI 도구를 별도 계정·환경에서 격리 운용하는 최소한의 위생 수칙을 진지하게 검토해야 한다. 다만 이 글이 논증이지 증명이 아니라는 점은 짚어둘 필요가 있다. '사례 0건'이라는 관찰은 강력한 직관이지만 미래에 대한 보장은 아니고, 바이러스처럼 번지는 봇 무리나 스리마일·체르노빌급 사고 같은 시나리오는 근거 있는 우려일 뿐 확정된 예측은 아니다. 저자 스스로 이 사고의 연쇄를 한곳에 정리한 선례를 찾지 못했다고 밝힌 만큼, 결론은 검증된 합의가 아니라 개인 블로그의 강한 주장으로 받아들이는 편이 정확하다. 그럼에도 '누가 방향을 조종할 것인가'라는 질문은, 자동화를 도입하는 어떤 조직이든 피해 갈 수 없는 실질적 과제로 남는다.