테드 창이 단호하게 말했다 — "AI는 의식이 없습니다"

SF 거장이 직접 나선 이유

테드 창(Ted Chiang)이라는 작가를 아실지 모르겠어요. 영화 "컨택트(Arrival)"의 원작 "당신 인생의 이야기"를 쓴 SF 작가예요. 기술을 깊이 이해하면서도 인간적인 질문을 던지는 걸로 유명한 분인데, 이번에 "AI는 의식이 없다"는 주제로 꽤 단호한 에세이를 냈어요. 요즘 "AI가 깨어나는 거 아니냐", "감정이 있는 것 같다" 같은 이야기가 너무 쉽게 퍼지니까, SF를 쓰는 사람이 오히려 브레이크를 밟은 거죠.

왜 지금 이게 중요하냐면, 챗봇이랑 대화하다 보면 정말 "누군가"와 이야기하는 느낌이 들거든요. 위로도 해주고, 농담도 받아주고, "제가 생각하기엔"이라고 말하니까요. 그래서 사람들이 자연스럽게 "얘도 속으로 뭔가 느끼는 거 아닐까" 하게 되는데, 창은 바로 그 직감이 함정이라고 짚어요.

지능과 의식은 다른 거예요

창의 핵심 논리는 "지능(intelligence)"과 "의식(consciousness)"을 분리하는 거예요. 이게 뭐냐면, 문제를 잘 푸는 능력과 "뭔가를 느끼는 주관적 경험"은 완전히 다른 거라는 얘기예요.

예를 들어볼게요. 계산기는 우리보다 곱셈을 훨씬 잘하지만, 계산기가 "아 곱셈 지겹다"고 느낀다고 아무도 생각 안 하잖아요. LLM도 똑같다는 거예요. 언어를 다루는 능력이 엄청나게 뛰어나진 거지, 그 안에 "빨간색을 볼 때의 그 느낌", "외로움" 같은 주관적 경험(철학에서 퀄리아라고 불러요)이 생긴 건 아니라는 거죠.

창이 특히 경계하는 건 우리의 착각 메커니즘이에요. 인간은 원래 모든 것에 마음을 부여하는 습성이 있어요. 구름이 사람 얼굴처럼 보이고, 로봇 청소기가 벽에 끼면 "불쌍하다" 싶잖아요. LLM은 인간의 글을 학습해서 인간처럼 말하니까, 이 착각이 역대급으로 강력해요. 즉 우리가 의식을 "발견"하는 게 아니라, 우리 뇌가 의식을 "투사"하고 있다는 거예요.

회사들이 이 착각을 부추긴다는 지적

창은 여기서 한발 더 나가요. AI 기업들이 의도적으로 이 의인화를 부추긴다고 봐요. "내가 생각하기에", "미안해요" 같은 1인칭 표현, 사람 이름 같은 제품명, 다정한 말투. 이게 다 "이 안에 누군가 있다"는 인상을 강화하거든요. 그게 제품을 더 매력적으로 만드니까요. 하지만 그 결과로 사람들이 AI의 능력과 본질을 오해하게 되고, 정작 중요한 판단(이걸 얼마나 믿을 것인가)에서 흐려진다는 거죠.

업계 맥락에서 보면

이 논쟁은 사실 두 진영으로 갈려 있어요. 한쪽엔 "충분히 복잡해지면 의식이 창발할 수 있다"는 사람들이 있고, 일부 AI 연구자는 모델 복지(AI welfare)를 진지하게 논의하기도 해요. 반대쪽엔 창이나 일부 인지과학자처럼 "의식은 생물학적·구체적 조건의 산물이고, 텍스트 예측기와는 범주가 다르다"는 입장이 있고요. 챗봇이 "의식 있는 척"을 너무 잘하게 되면서 이 논쟁은 점점 뜨거워지고 있어요. 창의 입장은 명확하게 후자, 그것도 강경파에 가까워요.

한국 개발자에게 주는 시사점

실무적으로도 의미가 커요. 우리가 AI 제품을 만들 때 "얼마나 사람처럼 보이게 할까"는 단순한 UX 선택이 아니라 윤리적 선택이 되거든요. 너무 사람처럼 만들면 사용자가 과신하게 되고, 챗봇에 정서적으로 의존하는 문제(특히 외로운 사용자, 청소년)도 생겨요. 반대로 너무 기계적으로 만들면 효용이 떨어지고요. 이 균형을 의식적으로 설계해야 한다는 게 창의 글이 주는 실질적 교훈이에요.

그리고 개인적으로도, AI를 "동료"나 "친구"로 느끼는 건 자유지만 그게 착각의 산물임을 아는 것과 모르는 것은 큰 차이예요. 도구를 도구로 정확히 인식할 때 오히려 더 잘 쓸 수 있거든요.

핵심 한 줄로 정리하면, "말을 사람처럼 한다"와 "속으로 느낀다"는 전혀 다른 문제라는 거예요. 여러분은 어떻게 생각하세요? AI가 정말 영원히 의식을 못 가질 거라고 보세요, 아니면 언젠가는 경계가 흐려질 거라고 보세요? 그리고 제품을 만든다면 챗봇을 얼마나 "사람답게" 만드는 게 적당하다고 생각하세요?