AI가 AI를 더 똑똑하게 만든다면? — ‘지능 폭발’, 정말 코앞일까

요즘 AI 뉴스가 하도 쏟아져서 웬만한 얘기엔 좀 무뎌졌을 거예요. 그런데 이번 이코노미스트 기고문은 결이 좀 달라요. ‘지능 폭발(intelligence explosion)’이라는 개념을 꺼내면서, “이게 우리가 생각하는 것보다 빨리 닥칠 수 있는데, 인류 사회는 그걸 받아낼 준비가 전혀 안 돼 있다”고 경고하거든요. AI가 더 똑똑해진다는 흔한 얘기가 아니라, ‘똑똑해지는 속도’ 그 자체를 문제 삼는다는 점이 포인트예요.

지능 폭발이 뭐냐면요

‘지능 폭발’은 사실 1965년에 수학자 I.J. 굿이 처음 꺼낸 꽤 오래된 아이디어예요. 논리는 단순해요. 사람보다 똑똑한 기계를 한 번 만들면, 그 기계가 자기보다 더 똑똑한 기계를 설계할 수 있고, 그렇게 만들어진 기계는 또 그 다음 세대를 설계하고… 이런 식으로 똑똑함이 똑똑함을 낳으면서 눈덩이처럼 불어난다는 거예요. 사람은 어느 순간 그 속도를 도저히 못 따라가게 되고요.

예전엔 그냥 SF 같은 얘기였는데, 지금은 분위기가 달라졌어요. 요즘 AI가 이미 코드를 짜고, 논문을 읽어서 정리하고, 실험 설계를 거들고 있잖아요. 그러니까 ‘AI 연구를 AI가 돕는’ 단계까지는 이미 온 셈이에요. 여기서 한 발만 더 나가서 AI가 AI 연구자가 하던 일을 상당 부분 대신하게 되면, 연구가 굴러가는 속도 자체가 사람의 시간 감각을 벗어날 수 있다는 게 이 글의 출발점이에요.

진짜 무서운 건 ‘똑똑함’이 아니라 ‘속도’예요

이 기고문이 강조하는 건 얼마나 똑똑해지느냐보다 ‘얼마나 빨리’예요. 보통 새 기술이 나오면 사회가 적응할 시간이 있거든요. 자동차가 나오고 신호등이랑 면허 제도가 자리 잡기까지 수십 년이 걸렸고, 인터넷도 천천히 스며들었죠. 그런데 지능 폭발 시나리오에선 몇 년, 심하면 몇 달 단위로 판이 바뀔 수 있다는 거예요. 법이나 제도, 사람들 사이의 합의는 그렇게 빨리 못 따라가잖아요. 바로 그 격차가 위험하다는 거죠.

‘정렬’만 풀면 끝나는 문제가 아니에요

흔히 AI 안전이라고 하면 ‘AI가 사람 말을 잘 듣게 만드는 것(정렬, alignment)’만 떠올리기 쉬운데, 이 글은 거기서 더 나가요. 설령 AI를 말 잘 듣게 만드는 데 성공하더라도, 그렇게 강력한 도구가 갑자기 쏟아지면 또 다른 문제들이 한꺼번에 터진다는 거예요. 예를 들어 새로운 무기나 생명공학 기술이 순식간에 등장하거나, 그 힘이 소수의 기업·국가에 확 쏠리거나, 사람들이 뭐가 진짜인지 판단하기 어려워지는 식으로요. 기술은 빛의 속도로 가는데 우리 제도는 거북이걸음이라, 결국 그 틈에서 사고가 난다는 거죠.

업계는 어떻게 보고 있나

물론 반론도 만만치 않아요. 회의적인 쪽에서는 “지금 AI는 데이터랑 전력, 반도체 같은 현실적인 벽에 곧 부딪힐 거고, 그렇게 매끄럽게 자기 자신을 개선하긴 어렵다”고 봐요. 모델을 키운다고 똑똑함이 무한정 늘어나는 게 아니라는 거죠. 반대로 오픈AI, 앤트로픽, 구글 딥마인드처럼 최전선에 있는 회사들은 ‘몇 년 안에 AI가 AI 연구를 가속하는 시점’을 꽤 진지하게 입에 올리고 있어요. 같은 데이터를 보고도 누구는 “거품”이라 하고 누구는 “초읽기”라고 하는, 해석이 크게 갈리는 상황인 거예요.

한국 개발자에게는

너무 먼 얘기 같죠? 그런데 실무 관점에서도 건질 게 있어요. 첫째, AI를 ‘코드 자동완성 도구’ 정도로만 보지 말고, 개발·연구 과정을 통째로 빠르게 만드는 지렛대로 보는 시각을 가져두면 좋아요. 이 흐름의 핵심이 거기에 있거든요. 둘째, 속도가 빨라질수록 ‘검증하고 판단하는 사람’의 가치가 올라가요. AI가 쏟아내는 결과물 중에 뭐가 맞고 뭐가 위험한지 가려내는 능력 말이에요. 셋째, 거버넌스나 정책에 관심 있는 분이라면, 이런 논의가 남의 나라 얘기가 아니라 곧 우리 규제·제도 논의로 들어온다는 점을 기억해두면 좋아요.