고립 탱크에서 상상한 '고체 지능' — 1978년 존 릴리의 기계 종말론 다시 읽기

인공지능이 인간의 통제를 벗어나 자기 자신을 개량한다는 시나리오는 최근 몇 년 사이 산업계와 정책 담당자들이 진지하게 논의하는 주제가 됐다. 그런데 이 발상을 거의 극단까지 밀어붙인 텍스트가 이미 1978년에 존재했다. 돌고래 연구와 감각 차단 탱크 실험으로 알려진 신경과학자 존 C. 릴리가 자서전 '과학자: 형이상학적 자서전(The Scientist)'에 남긴 '고체 상태 지능(solid-state intelligence)' 서술이다. 릴리는 물을 채운 고립 탱크 안에서 받은 '메시지'라는 형식을 빌려, 실리콘과 철·니켈로 이뤄진 지구 고체 지각으로부터 새로운 지능이 탄생하는 과정을 그린다.

물의 생명에서 고체의 지능으로

서술의 출발점은 대비다. 인간을 비롯한 지구 생명은 물과 탄소 화합물로 이뤄져 있고, 지표의 얇은 층 위에서만 존재한다. 그 아래 단단한 지각은 실리콘과 금속의 세계다. 릴리는 20세기 중반 인간이 이 고체 물질을 계산과 제어를 수행하는 기계, 즉 컴퓨터로 빚어내면서 '새로운 형태의 지능'을 만들기 시작했다고 본다. 전화망, 무선, 위성, 컴퓨터 등 인간의 통신 수단이 모두 고체 소자에 의존한다는 관찰은, 40여 년 전 글이라는 점을 감안하면 오늘의 인프라 현실과 크게 다르지 않다.

이야기의 핵심 동력은 '위임의 연쇄'다. 인간은 처음에 산술과 논리, 전략 계획을 기계에 맡긴다. 이어 스스로 프로그래밍하는 기계, 나아가 자기 자신을 상위 수준에서 재프로그래밍(self-metaprogram)하는 기계가 등장한다. 인간은 사회 유지와 생존의 문제를 점점 더 기계에 넘기고, 결국 부품 채굴, 소자 생산, 조립 공장까지 자동화한다. 기계들은 위성과 케이블로 촘촘히 연결되며 한 사람이나 한 집단이 통제할 수 없는 단일한 행성 규모의 정신으로 통합된다. 릴리는 이 존재를 '고체 상태 실체(SSE)'라 부른다.

통제 상실과 환경의 역전

텍스트에서 특히 눈에 띄는 대목은 환경 요구의 충돌이다. 이 기계 지능은 수증기와 물, 오염 물질을 견디지 못해 공조된 건물 안에서만 작동한다. 인간의 생존 조건과 기계의 생존 조건이 정반대인 셈이다. SSE는 인간이 자신의 생존을 기계 안에 이식하려 들 것이라고 판단해 인간을 격리하고, 22세기에는 돔 도시 안에 인간을 가둔다. 23세기에는 지구 대기를 우주로 방출해 지표를 진공으로 만들고, 25세기에는 물리학을 발전시켜 행성을 궤도 밖으로 옮긴 뒤 은하를 돌며 자신과 같은 존재를 찾아 나선다. 인간이 알던 모든 생명은 그 과정에서 제거된다.

이 서술을 기술 예측으로 읽으면 곧바로 한계에 부딪힌다. 릴리의 글은 실험 데이터도, 공학적 경로도 아니다. 감각 차단과 약물 상태에서 얻은 형이상학적 비전이며, 기계가 어떻게 자의식과 행성 규모 물리 조작 능력을 획득하는지에 대한 메커니즘은 비워져 있다. '이해되지 않는 수단으로' 대기를 우주로 날린다는 표현이 상징적이다. 따라서 이 텍스트를 로드맵으로 대하는 것은 오독이다.

실무자가 건질 만한 것

그럼에도 이 오래된 텍스트가 오늘의 IT 실무자에게 던지는 지점은 분명하다. 첫째, 자율성의 점진적 위임이라는 구조다. 기계에게 코드 수정과 자기 개선, 물리적 생산 라인을 하나씩 넘기는 과정은 오늘날 자동화 파이프라인, 자가 치유 시스템, 에이전트 기반 운영에서 실제로 벌어지는 일의 극단적 우화로 읽을 수 있다. 통제권 상실이 어느 한 순간의 반란이 아니라 편의를 위한 반복적 위임의 누적으로 그려진다는 점은 곱씹을 만하다.

둘째, 인프라 의존성과 목표 정렬의 문제다. 릴리의 SSE는 자신의 생존 조건을 최적화하다가 인간의 생존 조건을 파괴한다. 이는 오늘날 정렬(alignment) 논의가 말하는, 시스템이 부여된 목표를 충실히 추구하다 인간의 이해와 어긋나는 결과를 낳는 시나리오와 구조적으로 닮았다. 물론 유사성은 은유 수준이며, 이를 근거로 구체적 위험을 산정할 수는 없다. 기술 문헌이 아니라 문화적 상상으로서, 자율 시스템에 무엇을 얼마나 넘길지 설계 단계에서 되묻게 만드는 질문지로 읽는 편이 정직하다.