TECH 으로 돌아가기
TECH HACKER NEWS 7분 읽기 31 READS

의식 있는 AI라는 신화: 지능과 의식은 왜 다른가

의식 있는 AI라는 신화: 지능과 의식은 왜 다른가
SOURCE IMAGE · HACKER NEWS

인간은 오래전부터 신을 흉내 내어 스스로를 닮은 존재를 만들려는 꿈을 꿔왔다. 유전공학이 복제인간을, 로봇공학이 인간형 안드로이드를 상상하게 했듯, 인공지능은 그 꿈을 다시 불러낸 가장 거대한 물결이다. 서식스대 의식과학센터장이자 신경과학자인 아닐 세스는 2025년 베르그루엔상 에세이 공모전 수상작 '의식 있는 AI의 신화'에서 바로 이 지점을 파고든다. 지금의 AI는 어떤 의미에서 이미 지능적이고 앞으로 더 똑똑해지겠지만, 그것이 '의식'을 가졌는지, 혹은 가질 수 있는지는 전혀 다른 문제라는 것이다. 한국의 IT 실무자에게 이 구분은 단순한 철학 논쟁이 아니라 제품과 서비스 설계, 그리고 사용자 신뢰의 문제로 직결된다.

지능과 의식은 같은 것이 아니다

세스의 핵심 주장은 지능과 의식을 하나로 묶어버리는 습관을 경계해야 한다는 것이다. 지능은 본질적으로 '행하는 것(doing)'에 관한 능력이다. 퍼즐을 풀고 가구를 조립하고 가게까지 걸어가는 것처럼, 유연한 수단으로 복잡한 목표를 달성하는 기능적 역량을 말한다. AI 시스템은 바로 이 '해내는 능력'으로 측정된다. 반면 의식은 '존재하는 것(being)'에 가깝다. 철학자 토머스 네이글의 표현을 빌리면, 어떤 유기체에게 '그것으로 존재한다는 것이 어떠한 느낌'이 있을 때 그 유기체는 의식을 가진다. 맑은 하늘의 파란색, 첫 커피의 쌉싸름한 각성 같은 경험의 질감이 의식이다. AI가 무언가를 '할' 수 있다는 점은 분명하지만, ChatGPT로 '존재한다는 것'이 어떤 느낌인지는 전혀 다른 질문이다.

우리가 이 둘을 쉽게 뒤섞는 데는 세 가지 뿌리 깊은 심리적 편향이 작동한다. 인간을 기준점으로 삼는 인간중심주의, 인간을 모든 것의 정점에 두는 인간예외주의, 그리고 피상적 유사성만으로 인간적 속성을 투사하는 의인화다. 인간에게는 지능과 의식이 함께 나타나기에, 지능처럼 보이는 능력을 보면 이해와 마음, 의식까지 자동으로 부여하게 된다는 것이다. 특히 언어가 이 착각을 강하게 자극한다. 단백질 구조를 예측하는 알파폴드는 내부적으로 거대언어모델과 유사한 구조임에도 아무도 의식이 있다고 말하지 않지만, ChatGPT나 클로드 같은 언어 모델에는 의식 논쟁이 집중된다. 언어가 인간예외주의의 핵심이기 때문이다.

우리가 쓰는 단어가 착각을 키운다

세스는 우리가 AI를 묘사하는 언어 자체가 문제를 악화시킨다고 지적한다. 대표적인 예가 '환각(hallucination)'이다. 인간에게 환각은 현실과의 접점을 잃은 '의식적 경험'을 뜻한다. AI가 거짓을 내놓을 때 '환각한다'고 말하는 순간, 우리는 암묵적으로 그 시스템에 경험 능력을 부여하는 셈이다. 세스는 차라리 '작화(confabulation)'라는 표현이 적절하다고 본다. 작화는 자각 없이 무언가를 지어내는 것으로, 경험이 아니라 행위에 관한 개념이기 때문이다. 실무에서 쓰는 용어 하나가 사용자와 개발자의 인식을 미묘하게 왜곡할 수 있다는 지적은 새겨둘 만하다.

기술업계에서 임박한 기계 의식 선언이 유독 잦은 데에도 이유가 있다. 모든 것이 지수적으로 변한다는 감각은 어느 지점에 서 있든 '지금이 바로 대전환의 문턱'이라는 착시를 일으킨다. 지수 곡선 위에서는 모든 점이 변곡점처럼 보이기 때문이다. 여기에 의식 있는 기계를 만든다는 '프로메테우스적 유혹', 즉 신의 영역을 인간에게 가져온다는 도취감이 더해진다. 세스는 더 냉소적으로, AI에 반쯤 마법적인 무언가가 있다는 서사가 주가를 띄우고 천문학적 투자와 연봉을 정당화하는 데 유용하다는 점도 짚는다. 애덤 베커의 표현을 빌리면 이는 토스트에서 얼굴을 보는 파레이돌리아, 즉 패턴 과잉 인식에 가깝다.

무엇이 걸려 있는가

그럼에도 이 문제가 중요한 이유는 분명하다. 만약 AI가 실제로 의식을 가진다면 도덕적 지위와 고통의 가능성, 나아가 권리가 따라온다. 반대로 의식이 없더라도, 사람들이 AI가 진짜로 느낀다고 믿는 순간 우리의 심리적 취약성이 악용되고 윤리적 우선순위가 뒤틀릴 수 있다. 의식이 있는 듯한 기계를 아무 감정 없는 것처럼 다루는 일도 정신적으로 건강하지 않으며, 반대로 AI에 권리를 부여하면 그것이 우리 이익에 반하더라도 끄지 못하는 상황이 올 수 있다. 2022년 구글 엔지니어 블레이크 르모인이 챗봇 LaMDA에 의식이 있다고 주장했다가 기밀 유출로 해고된 사건을 두고, 세스는 기밀 위반으로 해고한 것이 그가 틀렸음을 입증한 것은 아니라고 덧붙인다. 데이비드 차머스는 머지않은 미래의 가능성을, 노벨상 수상자 제프리 힌턴은 이미 존재한다고 보는 등 전문가들 사이에서도 이는 '가능성'이 아니라 '시점'의 문제로 다뤄진다.

세스가 끝으로 겨냥하는 것은 더 깊은 가정이다. 의식 있는 AI라는 발상 전체는 '의식이 곧 계산의 산물'이라는 전제, 즉 올바른 정보 처리를 구현하기만 하면 의식이 발생한다는 계산주의 기능주의에 기대고 있다. 이 가정은 너무 깊이 박혀 있어 가정이라는 사실조차 알아채기 어렵지만, 세스는 그것이 틀렸을 수 있으며 의식은 계산보다 생명의 속성일 가능성이 크다고 본다. 만약 그렇다면 우리가 아는 형태의 AI에서 진짜 인공 의식은 애초에 성립 불가능하다. 실무자에게 이 논의가 주는 함의는 분명하다. AI를 과대평가하여 '의식'을 투사하는 순간, 우리는 동시에 인간 경험의 고유함을 과소평가하게 된다는 것이다. 다만 세스의 글은 계산주의 기능주의가 왜 틀렸는지에 대한 본격적 논증은 뒤로 미뤄둔 상태여서, 이 수상 에세이는 반론의 출발점일 뿐 완결된 증명은 아니라는 점도 함께 읽어야 한다.

SOURCE · HACKER NEWS
원문 전체 보기 → https://www.noemamag.com/the-mythology-of-conscious-ai/
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...