자기참조 없이도 지능은 나왔다 — LLM이 뒤집은 GEB의 명제

컴퓨터 과학자 스콧 애런슨이 자신의 블로그에 올린 짧은 에세이가 흥미로운 논쟁을 불러일으켰다. 논지는 이렇다. 더글러스 호프스태터의 고전 『괴델, 에셔, 바흐(GEB)』를 젊은 시절 읽은 많은 독자들은 지능의 비밀, 나아가 인공지능의 비밀이 '자기참조(self-referentiality)'와 '이상한 고리(strange loop)'에 있다고 믿게 됐다. 흥미롭게도 GEB와 여러 면에서 대척점에 섰던 로저 펜로즈의 『황제의 새 마음』조차 이 전제만큼은 공유했다. 펜로즈는 괴델의 정리와 자기참조에 담긴 무언가를 어떤 프로그램도 포착할 수 없으며, 오직 생물학적 뇌가 접근하는 특이한 물리학만이 그것을 담을 수 있다고 주장했다. 애런슨을 비롯한 다수 전문가는 이 주장을 틀린 것으로 본다.

아무도 자기참조를 설계하지 않았다

애런슨의 관찰은 단순하지만 날카롭다. 오늘날의 대형언어모델(LLM)은 판정 가능한 지적 과제 대부분에서 인간을 능가하지만, 그 기술 스택 어디에도 자기참조가 명시적으로 설계돼 들어간 곳이 없다는 것이다. 트랜스포머 신경망에도, GPU 클러스터에도, 학습 과정에도 마찬가지다. 그는 모델에 역할과 정체성을 알려주는 시스템 프롬프트는 지능적 행동에 필수가 아니라며 예외로 두고, 자기회귀(autoregressive) 구조 역시 단순한 동역학적 피드백일 뿐 자기참조로 치지 않는다.

그럼에도 최신 모델들은 자기 자신에 대해, 괴델의 정리에 대해, 자기참조 자체에 대해 대부분의 인간보다 유창하게 말한다. 하지만 이 능력은 누군가 별도로 심어 넣은 것이 아니라, 포켓몬과 고분자 화학과 판구조론을 이야기하게 만든 바로 그 사전학습에서 부산물로 튀어나왔다. 애런슨은 이 지점에서 호프스태터가 LLM의 성공에 충격을 받고 최근 글들에서 침울해 보였다고 짚는다. 너무 똑똑해서 벌어진 일을 부정하지도, '진짜가 아니다'라며 이유를 지어내지도 못한 채, GEB적 세계관이라면 너무 값싸고 단순하다고 여겼을 경로에서 진짜 대화형 지능이 나왔음을 직시했다는 것이다.

보편성의 공짜 부산물

역사적 유비가 이 논증의 핵심이다. 대각선 논법과 자기참조는 현대 수리논리학과 컴퓨터 과학의 탄생에 중심 역할을 했지만, 가장 유명한 쓰임새는 모두 부정적이었다. 자연수와 실수 사이에 전단사가 없다, 산술에 대한 완전하고 건전한 증명 체계가 없다, 정지 문제를 푸는 알고리즘이 없다. 그러나 ZFC 공리계를 세우거나 전자 컴퓨터를 만드는 것이 목표라면 자기참조를 굳이 넣을 필요가 없다. 명령어 집합이 보편성에 미달하지 않도록 주의하며 그냥 만들기 시작하면 된다. ZFC가 자기 자신에 대한 정리를 증명하고 컴퓨터가 자기 코드를 입력으로 받는 능력은, 알파벳이나 문법 규칙에 자기참조가 내장돼 있지 않듯 보편성의 공짜 부산물로 따라올 뿐이다.

LLM도 같은 방식이라는 것이다. 자기 자신을 말하는 능력은 학습된 담론 세계의 무엇이든 말하는 능력에서 파생됐다. 결국 검증된 오래된 아이디어는 지능이 예측에 관한 것이고, 예측은 압축에 관한 것이며, 압축은 콜모고로프 복잡도의 더 나은 상계를 찾는 일이라는 계보였지 자기참조 계보가 아니었다는 진단이다. 애런슨은 '설득력 있는 대화형 지능을 얻으려면 명시적 자기참조가 선행돼야 한다'는 발상을, 천동설이나 플로지스톤처럼 인류사의 중요한 오답들 곁에 묻어야 한다고 다소 도발적으로 결론짓는다. 다만 의식과 주관적 경험의 수수께끼에 대해서는 호프스태터가, 심지어 펜로즈가 옳을 여지까지 열어둔다.

댓글창이 드러낸 긴장

에세이 못지않게 읽을 값어치가 있는 것은 반응들이다. 한 논평자는 결론에 동의하면서도 세부에서는 이견을 낸다. 지능과 관련해 가장 중요한 자기참조는 자기 인지 과정에 대한 메타추론, 즉 내성(introspection)인데, 모델이 다른 모델의 감독으로 학습된다는 점은 최소한 제한적 형태의 '외부 내성'이라는 것이다. 그는 모델이 러시아어 단어를 실수로 섞은 뒤 벡터 공간상 근접성으로 자기 오류를 설명한 일화를 들며, 이것이 인간이 '프로이트적 말실수였다'고 둘러대는 것과 무엇이 다르냐고 되묻는다. 또 인간의 내성 역시 사후 작화(confabulation)일 수 있다는 점, 아판타시아 같은 개념이 뒤늦게 명명된 사례를 들어 내성 언어의 빈곤을 지적한다.

다른 이는 인지(cognition)와 의식(consciousness)을 혼동하는 흔한 오류라며, 호프스태터가 자기참조로 설명하려 한 것은 지능이 아니라 의식이라고 반박한다. 실무자에게 더 와닿는 지적도 있다. 현재의 AI 에이전트는 대화 맥락 외에 장기 기억이 없어 '즉석에서' 새 정보를 학습하지 못하며, 운 좋게 좋은 경로를 찾아도 맥락이 저장되지 않으면 그 토큰의 가치가 '빗속의 눈물처럼' 사라진다는 것이다. 이 논평자는 실제 장기 기억이 도입되면 모델 자신의 상태가 출력 생성을 수정하는 피드백 고리를 이루어 일종의 자기참조가 생길 수 있고, 흥미로운 행동과 함께 불안정성도 따라올 것이라 내다본다.

마지막으로 자기회귀가 왜 자기참조가 아니냐는 질문에 애런슨이 직접 답한 대목이 정리의 실마리를 준다. 자기회귀만으로 자기참조라 부른다면 상태를 반복 갱신하는 콘웨이의 생명 게임을 비롯한 거의 모든 반복적 계산이 자기참조가 되어 개념이 무의미해진다는 것이다. 그는 호프스태터의 이상한 고리가 '카오스적'이라는 점이 기호적 계산과 구별되는 지점일 수 있다고 덧붙인다. 실무자에게 이 논쟁의 교훈은 명확하다. 지능적 산출물이 자기참조를 흉내 내더라도 그것이 설계된 능력인지 창발한 부산물인지는 다른 문제이며, 모델이 자기 실수를 그럴듯하게 설명하는 능력을 진짜 내성으로 오해해서는 안 된다는 점이다. 다만 이 글은 개인 블로그의 사변이라는 한계가 있어, 여기서 단정된 '묻어야 할 오답'이라는 결론 역시 하나의 강한 주장으로 읽는 편이 안전하다.