딥러닝의 문을 연 사람이 꺼낸 말
제프리 힌턴이 가디언을 통해 꽤 묵직한 말을 남겼어요. “AI가 없는 편이 우리에게 더 나았다고 밝혀질 수도 있다”는 취지의 이야기인데요. 이 말이 유독 무겁게 들리는 건 말한 사람이 힌턴이기 때문이에요. 힌턴은 1980년대에 역전파(backpropagation, 모델이 틀린 만큼 거꾸로 되짚어가며 스스로를 고치는 학습법)를 널리 알렸고, 2012년에는 제자들과 함께 이미지 인식 모델 AlexNet으로 지금의 딥러닝 붐에 불을 붙였거든요. 2018년 튜링상에 이어 2024년에는 노벨 물리학상까지 받았고요.
먼저 밝혀둘 게 하나 있어요. 이 글은 가디언 기사 전문을 읽고 쓴 게 아니라, 기사 제목으로 전해진 발언과 힌턴이 그동안 공개적으로 밝혀온 입장을 바탕으로 정리했어요. 정확한 맥락과 표현은 원문에서 꼭 확인해 주세요.
힌턴은 왜 이렇게까지 걱정할까
이런 입장이 갑자기 나온 건 아니에요. 힌턴은 2023년에 약 10년간 몸담은 구글을 떠나면서, AI의 위험을 자유롭게 말하기 위해서라고 밝혔거든요. 2024년 말 BBC 인터뷰에서는 앞으로 30년 안에 AI가 인류 멸종으로 이어질 확률을 10~20% 정도로 보기도 했고요.
힌턴의 걱정은 크게 두 갈래로 나눠볼 수 있어요. 하나는 사람이 AI를 나쁘게 쓰는 문제예요. 가짜 정보, 사이버 공격, 자동화된 무기, 그리고 일자리가 사라지면서 부가 소수에게 몰리는 문제까지요. 다른 하나는 AI 자체가 사람의 통제를 벗어나는 문제예요.
두 번째 걱정에는 힌턴만의 기술적인 논리가 있어요. 이게 뭐냐면, 디지털 지능은 사람과 배우는 방식이 근본적으로 다르다는 이야기예요. 사람은 내가 아는 걸 남에게 전하려면 말이나 글로 천천히 설명해야 하죠. 한 문장에 담기는 정보는 얼마 안 되고요. 그런데 똑같은 신경망을 여러 벌 복사해서 돌리면, 각 복사본이 서로 다른 데이터를 학습한 뒤 가중치(모델이 배운 내용이 저장된 숫자들)를 합칠 수 있어요. 비유하자면 만 명의 학생이 각자 다른 책을 읽었는데, 다음 날 아침 모두가 만 권의 내용을 아는 상태가 되는 거예요. 힌턴은 이 점 때문에 디지털 지능이 생물학적 지능을 앞지를 수 있다고 보고, 덜 똑똑한 존재가 더 똑똑한 존재를 통제한 사례는 드물다고 지적해왔어요.
같은 분야 석학들도 의견이 갈려요
흥미로운 건 힌턴과 튜링상을 함께 받은 두 사람의 입장이 서로 다르다는 점이에요. 요슈아 벤지오는 힌턴처럼 위험을 크게 보는 쪽이고, 안전한 AI를 연구하는 비영리 조직 LawZero를 세우기도 했어요. 반면 얀 르쿤은 지금의 대규모 언어 모델(LLM)이 인간 수준 지능으로 가는 길이 아니라고 보고, 멸종 시나리오는 과장됐다고 꾸준히 반박해왔거든요.
즉 “AI는 위험하다 vs 안전하다”의 단순한 대결이 아니에요. 핵심 쟁점은 지금의 기술이 얼마나 빨리, 어디까지 갈 것인가에 대한 예측이 다르다는 거예요. 최고 전문가들이 정반대 결론을 내리고 있다는 사실 자체가, 아직 아무도 답을 모른다는 뜻이기도 하고요.
규제 쪽도 움직이고 있어요. EU는 AI Act를 단계적으로 시행하고 있고, 한국도 2026년 1월부터 AI 기본법이 시행됐어요. 힌턴이 말하는 먼 미래의 위험과 별개로, 고영향 AI 관리나 생성형 AI 결과물 표시 같은 의무는 이미 개발 현장의 문제가 된 거죠.
한국 개발자는 뭘 해야 할까
솔직히 멸종 확률을 개인이 어쩔 수는 없어요. 그래도 힌턴의 경고에서 실무로 가져올 수 있는 건 꽤 있거든요.
첫째, AI 기능을 붙일 때 “실패하면 어떻게 되지?”를 먼저 물어보는 습관이에요. LLM이 고객에게 틀린 답을 줬을 때, 에이전트가 권한을 넘어 파일을 지우거나 결제를 했을 때를 미리 따져보는 거예요. 에이전트에는 꼭 필요한 권한만 주고, 되돌리기 어려운 작업은 사람이 확인하게 만드는 것만으로도 위험이 크게 줄어들어요.
둘째, 내가 만드는 서비스가 AI 기본법 대상인지 확인해두는 것이에요. 법무팀이 없는 스타트업이라면 더더욱요.
셋째, 일자리 불안을 막연한 공포 대신 구체적으로 다뤄보는 것이에요. 코드 작성은 점점 AI가 맡더라도, 문제를 정의하고 결과를 검증하고 책임지는 일은 여전히 사람 몫으로 남아 있거든요. 주니어라면 AI가 짠 코드를 왜 그렇게 짰는지 설명할 수 있는 능력을 키워두는 게 가장 현실적인 보험이에요.
마무리
한 줄로 정리하면, 딥러닝의 문을 연 사람조차 이 기술이 인류에게 남는 장사일지 확신하지 못한다는 거예요. 정답을 아는 사람이 없는 만큼, 만드는 사람들의 판단이 더 중요해지고요.
여러분은 어떠세요? 지금 당장 AI를 없앨 수 있는 버튼이 있다면 누르실 건가요? 그리고 내가 만드는 AI 기능에서 “이건 사람이 확인해야 해”라고 선을 긋는 기준은 어디인가요?
🔗 출처: Hacker News