오늘날 우리가 접하는 인공지능은 대부분 이미지 해석, 자연어 처리, 분류, 예측처럼 한정된 과제에 특화된 이른바 '좁은 AI(narrow AI)'다. 성능이 눈에 띄게 좋아진 것은 사실이지만, 그 성취는 알고리즘의 개선만이 아니라 방대한 데이터셋과 막대한 연산 자원의 확보에 강하게 의존한다. 2021년 공개된 논문 'Thinking fast and slow in AI: The role of metacognition'은 바로 이 지점을 문제 삼는다. 현재의 최첨단 AI가 인간 지능이라면 자연스럽게 포함될 여러 능력을 여전히 결여하고 있으며, 그 능력을 부여하려면 사람이 어떻게 그것을 해내는지의 메커니즘을 먼저 제대로 연구해야 한다는 것이 저자들의 출발점이다.
카너먼의 이중 처리 이론을 아키텍처로
논문은 심리학자 대니얼 카너먼(D. Kahneman)의 '빠르게 생각하기, 느리게 생각하기' 이론을 뼈대로 삼는다. 인간의 사고를 직관적이고 즉각적인 '시스템 1'과, 의도적이고 논리적인 '시스템 2'로 나누는 이 관점을 AI 설계에 이식하려는 시도다. 저자들이 제안하는 것은 들어온 문제를 두 종류의 에이전트가 나눠 처리하는 다중 에이전트(multi-agent) 구조다. '빠른' 시스템 1 에이전트는 오직 과거의 경험만을 활용해 즉각 반응하고, '느린' 시스템 2 에이전트는 추론과 최적해 탐색이 필요할 때 의도적으로 활성화된다.
핵심은 두 에이전트를 언제 쓸지 결정하는 판단 자체에 있다. 시스템 2가 항상 개입한다면 느리고 비싸며, 시스템 1만으로는 익숙하지 않은 문제 앞에서 어긋난 답을 내놓기 쉽다. 논문의 구조는 시스템 1 에이전트에게 기대되는 수준을 넘어서는 판단이 필요하다고 볼 때 비로소 시스템 2를 불러내는 방식으로 이 균형을 잡는다. 즉 문제마다 '지금은 반사적으로 답해도 되는가, 아니면 멈춰서 따져봐야 하는가'를 가려내는 것이 이 아키텍처의 실질적 관건이다.
세계 모델과 자기 모델
두 종류의 에이전트는 모두 두 가지 모델의 지원을 받는다. 하나는 환경에 관한 도메인 지식을 담은 '세계 모델(model of the world)'이고, 다른 하나는 시스템이 과거에 어떤 행동을 했는지, 그리고 각 해결기(solver)가 어떤 능력을 갖추고 있는지에 관한 정보를 담은 '자기 모델(model of self)'이다. 논문의 제목에 등장하는 메타인지(metacognition)라는 개념이 여기서 힘을 얻는다. 자기 모델은 시스템이 자신의 과거 행동과 각 해결기의 숙련도를 참조해, 특정 문제를 어느 에이전트에게 맡길지 스스로 가늠하도록 하는 근거가 된다.
이 발상이 흥미로운 이유는, 지능을 단순히 '더 강력한 단일 모델'로 밀어붙이는 대신 서로 다른 성격의 처리 방식을 조합하고 그 사이를 조율하는 상위 층위를 두는 데 있기 때문이다. 무엇을 아는지뿐 아니라 자신이 무엇을 잘하고 무엇을 모르는지까지 인식하는 능력, 곧 자기 자신에 대한 모델링을 지능의 구성 요소로 명시적으로 끌어들인 셈이다.
실무자가 새겨둘 만한 지점과 한계
실무의 언어로 옮기면 이 그림은 낯설지 않다. 대다수 서비스가 자주 들어오는 요청은 캐시나 경량 규칙, 사전 학습된 반사적 응답으로 빠르게 처리하고, 예외적이거나 비용이 큰 판단만 무거운 추론 경로로 넘기는 구조를 이미 쓴다. 최근 대형 언어 모델에서 논의되는 라우팅이나 단계적 추론 활성화 같은 개념과도 문제의식이 겹친다. 논문이 던지는 메시지는 이 분기 자체를 임시방편이 아니라 아키텍처의 일급 구성 요소로, 그리고 자기 모델에 근거한 결정으로 다루자는 데 있다.
다만 이 논문은 특정 제품이나 벤치마크 성과를 제시하는 성격의 글이 아니라 아키텍처를 제안하는 개념적 작업이라는 점을 분명히 해둘 필요가 있다. 어떤 문제를 시스템 2로 넘길지 판단하는 기준을 어떻게 학습시키고 검증할지, 자기 모델을 신뢰할 만하게 유지하는 비용은 얼마인지 같은 실질적 물음은 설계 원칙의 층위에 머문다. 또한 카너먼의 이론은 인간 인지에 대한 하나의 모형일 뿐이어서, 이를 기계에 옮긴다고 곧바로 인간 수준의 유연함이 따라오는 것도 아니다. 그럼에도 좁은 AI의 한계를 데이터와 연산의 증량이 아닌 사고 구조의 설계로 넘어서려는 방향 제시로서, 지금의 에이전트 설계 논의에 두고 참고할 가치가 있다.