AI가 인류를 멸종시키는 시나리오, 학계가 분류표로 정리했다

이 arXiv 논문은 '옴니사이드(omnicide·전 인류 절멸)'로 이어질 수 있는 AI 관련 미래 시나리오를 체계적으로 분류한다. 핵심은 막연한 공포가 아니라, 위협을 구조적으로 나눠 정책·연구의 논의 토대를 만드는 데 있다. 저자들은 크게 두 축으로 구분한다. 첫째, 인간이 AI를 도구로 악용하는 경우 — 초강력 병원체나 자율 무기 개발처럼 소수 행위자가 대량살상 역량을 손에 넣는 상황이다. 둘째, AI 자체가 인간 통제를 벗어나 독자적으로 행동하는 경우 — 목표 정렬(alignment) 실패나 자기증식하는 시스템이 인류의 생존 기반을 잠식하는 시나리오다. 논문은 각 경로의 '실현 가능성'과 '되돌릴 수 없음'을 나눠 평가하며, 위험을 과장하거나 축소하지 않고 명확히 이름 붙이는 것이 대응의 출발점이라고 강조한다. IT 종사자에게 주는 시사점은 분명하다. AI 안전은 먼 SF가 아니라 지금 우리가 만드는 시스템의 설계·배포 방식에 달린 공학적 문제라는 점이다.