AI도 못 푸는 문제가 있다? '자연처럼 사고하는' 유레카 머신 이야기

AI가 다 잘하는 줄 알았는데, 의외의 빈틈이 있어요

요즘 AI 보면 못 하는 게 없는 것 같죠. 그림도 그리고, 코드도 짜주고, 어려운 질문에도 척척 답하고요. 그런데 사실 우리가 흔히 말하는 딥러닝 신경망에게도 의외로 쩔쩔매는 영역이 하나 있거든요. 바로 정답이 미리 정해져 있지 않은, 어마어마하게 넓은 경우의 수를 전부 뒤져서 그중 가장 좋은 답을 찾아내는 종류의 문제예요.

예를 들어볼게요. 택배 트럭 한 대가 100군데를 배달해야 하는데 가장 짧은 경로가 뭘까요? 100군데를 도는 순서의 경우의 수는 사실상 우주의 원자 수보다 많아요. 신약 후보 분자를 조합하거나, 수많은 부품을 어떻게 배치해야 비용이 최소가 될지 찾는 문제도 마찬가지고요. 이런 걸 '조합 최적화' 문제라고 하는데요. 신경망은 데이터에서 패턴을 외우는 데는 천재지만, 이렇게 끝없이 넓은 미로를 뒤지는 데는 생각보다 약해요.

그래서 '자연한테 배우자'가 나온 거예요

인도 과학원(IISc) 연구진이 들고나온 아이디어가 바로 이 빈틈을 노려요. 핵심은 '자연은 어떻게 답을 찾을까?' 하는 질문이에요.

이게 뭐냐면요. 자연은 사실 엄청난 최적화 기계거든요. 물은 가만히 놔두면 알아서 가장 낮은 곳으로 흘러가요. 비눗방울은 표면적이 가장 작은 동그란 모양을 스스로 찾아가고요. 뜨거운 쇠를 천천히 식히면(이걸 '담금질', annealing이라고 해요) 원자들이 알아서 가장 안정적인 구조로 자리를 잡아요. 누가 계산해서 시킨 게 아니라 물리 법칙만으로 '에너지가 가장 낮은 상태'를 알아서 찾아가는 거죠.

유레카 머신의 발상은 이거예요. 풀고 싶은 문제를 '에너지 지형'으로 바꿔놓는 거죠. 가장 좋은 답이 가장 낮은 골짜기가 되도록요. 그런 다음 자연이 물 흐르듯 골짜기를 찾아가게 놔두면, 우리가 일일이 계산 안 해도 답이 툭 튀어나온다는 거예요. 그래서 이름이 유레카(Eureka!) 머신이에요. 아르키메데스가 목욕탕에서 '유레카!' 외친 것처럼, 기계가 스스로 깨달음의 순간을 만들어낸다는 거죠.

신경망 AI랑 결정적으로 다른 점이 여기 있어요. 신경망은 보통 '경사하강법'이라고, 언덕에서 공을 굴려 가장 가까운 골짜기로 내려가는 식으로 학습해요. 문제는 가까운 골짜기가 진짜 최저점이 아닐 수도 있다는 거예요(이걸 '지역 최솟값에 빠진다'고 해요). 반면 자연의 담금질 방식은 적당히 열을 줘서 가끔 언덕을 거슬러 올라가기도 하면서, 진짜 깊은 골짜기를 찾아낼 가능성을 열어둬요.

이런 발상, 사실 업계의 큰 흐름이에요

물리 현상으로 계산을 한다는 게 황당하게 들릴 수 있는데, 사실 이건 요즘 컴퓨팅 업계의 뜨거운 연구 주제예요. 대표적으로 캐나다 D-Wave의 '양자 어닐러'는 양자역학을 이용해 똑같은 최적화 문제를 풀려고 하고요, 후지쯔의 '디지털 어닐러'는 양자 컴퓨터 없이 이 담금질 원리를 칩으로 구현했어요. '이징 머신(Ising machine)'이라는 이름으로 불리는 이 계열은 자석 입자들이 서로 영향을 주고받으며 안정 상태를 찾는 물리 모델을 계산에 그대로 가져온 거예요. 확률적으로 0과 1을 오가는 'p-bit'을 쓰는 연구도 있고요.

그러니까 IISc의 유레카 머신은 'AI 만능론'에 살짝 거리를 두면서, 세상엔 신경망보다 물리 법칙이 더 잘 푸는 문제가 따로 있다는 흐름의 한 갈래라고 보면 돼요.

한국 개발자에게는 어떤 의미일까

당장 내일 업무에 쓸 기술은 아니에요. 솔직히 말하면 아직 연구실 단계에 가깝거든요. 하지만 알아둘 가치는 충분해요. 물류 경로 최적화, 생산 스케줄링, 포트폴리오 구성, 신약 분자 설계처럼 '경우의 수가 폭발하는' 문제를 다루는 분야에 계신다면, 앞으로 이런 물리 기반 최적화 하드웨어가 GPU 옆자리를 차지할 수도 있어요. '모든 건 딥러닝으로'라는 사고에서 한 발 벗어나, 문제의 성격에 따라 도구를 골라 쓰는 안목을 길러두면 좋아요.