과학에도 ‘아무도 안 가본 길’이 있다
과학은 논리적으로 가능한 방향을 골고루 탐색하면서 발전할까요? 아마 아닐 거예요. 연구자들은 자기가 배운 분야, 함께 일하는 동료, 연구비가 나오는 주제를 중심으로 움직이니까요. 최근 arXiv에 올라온 논문 “The alien space of science: Coherent but cognitively unavailable directions”는 바로 이 지점을 파고들어요. 제목을 풀면 “과학의 외계 공간: 논리적으로는 말이 되는데 인간의 인지로는 닿기 어려운 방향들”이라는 뜻이에요.
핵심 단어 두 개만 짚고 갈게요. Coherent(정합적)는 기존 지식과 모순되지 않고 충분히 타당하다는 뜻이고, cognitively unavailable(인지적으로 접근 불가)은 그런데도 사람들 머릿속에 잘 떠오르지 않는다는 뜻이에요. 그러니까 “틀려서 안 하는 연구”가 아니라 “아무도 생각을 못 해서 안 하는 연구”가 있다는 거죠.
왜 그런 빈 공간이 생길까
서울에 오래 산 사람도 결국 매일 다니는 길로만 다니잖아요. 지도에는 더 빠른 골목이 분명히 있는데, 아무도 그 골목을 지나가 본 적이 없으니 그런 길이 있다는 것 자체를 모르는 거예요. 과학도 비슷해요.
과학을 연구 대상으로 삼는 ‘과학학(science of science)’에서는 이런 현상을 여러 각도에서 보여 줬어요. 지식이 쌓일수록 한 사람이 익혀야 할 양이 늘어나서 연구자가 점점 좁은 분야에 갇힌다는 ‘지식의 부담(burden of knowledge)’ 가설이 있어요. 2023년 Nature에 실린 연구는 논문과 특허가 시간이 갈수록 기존 흐름을 뒤엎는 ‘파괴적’ 성격을 잃어 간다고 분석했어요. 한 분야를 이끌던 유명 학자가 세상을 떠난 뒤에야 외부 연구자들이 들어와 새 방향이 열린다는 연구도 있고요. 과학이 논리만큼이나 사람과 관계망에 좌우된다는 증거들이에요.
이 아이디어의 뿌리: 인간을 고려하는 AI
이런 문제의식은 갑자기 나온 게 아니에요. 시카고대 제임스 에반스(James Evans) 연구팀이 2023년 Nature Human Behaviour에 발표한 연구를 보면 이해가 쉬워요. 연구팀은 논문 데이터로 그래프를 만들면서, ‘어떤 개념이 같은 논문에 함께 나오는지’뿐 아니라 ‘어떤 연구자가 어떤 개념을 아는지’까지 넣었어요. 그리고 연구자가 개념 사이를 옮겨 다니듯 그래프 위를 무작위로 걷게(random walk) 했더니, 사람들이 앞으로 어떤 발견을 할지 더 잘 예측할 수 있었어요. 재료 과학이나 기존 약을 다른 질병에 쓰는 약물 재창출 같은 분야에서요.
더 흥미로운 건 그다음이에요. 연구팀은 이 모델을 뒤집어서 사람이 닿기 어려운 곳을 일부러 찾게 했어요. 이렇게 나온 가설을 ‘외계(alien)’ 가설이라고 불렀는데, 그중 상당수가 이론적 검증에서도 꽤 그럴듯했다고 보고했어요. 이번 논문 제목의 ‘alien space’라는 표현도 이런 연구 흐름과 맞닿아 있다고 보면 돼요.
알파고의 37수를 떠올려 보세요
2016년 이세돌 9단과 알파고의 제2국, 37수를 기억하시나요? 프로 기사들이 처음엔 실수라고 봤던 수예요. 그런데 그 수는 바둑 규칙 안에서 완벽하게 ‘정합적’이었고, 단지 인간 기사들의 직관에서 벗어나 있었을 뿐이에요. ‘coherent but cognitively unavailable’의 교과서적인 예시죠.
여기에는 함정이 하나 있어요. 지금의 LLM은 사람이 쓴 텍스트로 학습했잖아요. 그러면 LLM은 오히려 사람들이 이미 많이 간 길을 더 강하게 따라갈 수 있어요. 실제로 생성형 AI가 개인의 창의성은 높여 주지만 집단 전체의 결과물은 비슷하게 만든다는 연구도 있어요. 구글의 AI co-scientist나 Sakana AI의 AI Scientist처럼 ‘AI 과학자’를 내세우는 시스템이 늘고 있는데, 이들이 정말 새로운 걸 찾으려면 ‘그럴듯함’만 좇아서는 안 되고 ‘사람이 안 가본 곳’을 일부러 겨냥하는 설계가 필요하다는 게 이 연구 흐름의 문제의식이에요.
한국 개발자에게 주는 시사점
과학자만의 얘기는 아니에요. 추천 시스템을 만들어 본 분이라면 탐색(exploration)과 활용(exploitation)의 균형이 익숙하실 거예요. 이미 잘 먹히는 콘텐츠만 계속 추천하면(활용) 단기 지표는 좋지만, 사용자의 새로운 취향을 발견할 기회(탐색)를 놓치게 돼요. RAG 시스템도 마찬가지예요. 검색 상위 결과만 가져오면 많이 언급된 정보만 되풀이되고, 덜 알려졌지만 중요한 정보는 묻혀 버리죠.
개발 습관에도 적용할 수 있어요. AI 코딩 도구는 가장 흔한 답을 주는 경향이 있어서, 다들 점점 비슷한 구조의 코드를 쓰게 되거든요. 가끔은 일부러 “가장 흔한 방법 말고 다른 접근은 뭐가 있어?”라고 물어보세요. 그 습관이 생각지 못한 해법으로 이어질 때가 있어요.
마무리
한 줄로 정리하면, 과학의 빈칸 가운데 일부는 불가능해서가 아니라 아무도 떠올리지 못해서 비어 있고, AI는 그 빈칸을 찾아 주는 도구가 될 수도, 오히려 더 굳혀 버리는 도구가 될 수도 있어요. 여러분은 AI가 사람의 상상력을 넓혀 준다고 보시나요, 아니면 평균으로 끌어당긴다고 보시나요?
🔗 출처: Hacker News