87년 된 난제가 무너졌어요
수학에는 '언젠가는 증명되겠지'라며 다들 참이라고 믿어온 문제들이 있는데요. 1939년 독일 수학자 오트-하인리히 켈러(Ott-Heinrich Keller)가 제안한 '야코비안 추측(Jacobian Conjecture)'이 대표적이었어요. 그런데 최근 이 추측에 반례가 발표됐어요. 반례라는 건 '이 명제는 틀렸다'는 걸 보여주는 구체적인 예시거든요. 87년 동안 수많은 수학자가 증명에 도전해온 문제가 '사실은 거짓이었다'로 결론 나는 순간이라, 수학계 입장에서는 정말 큰 사건이에요.
그리고 필즈상 수상자이자 '살아있는 최고의 수학자'로 자주 꼽히는 테렌스 타오(Terence Tao)가 자신의 블로그에 이 반례를 차근차근 뜯어보는 해설 글을 올렸어요. 타오는 수학계에 큰 결과가 나올 때마다 이렇게 '소화(digestion)' 글을 쓰는 걸로 유명한데요. 원 논문은 해당 분야 전문가가 아니면 읽기 어려우니까, 핵심 아이디어를 다른 사람들도 따라올 수 있게 풀어서 재구성해주는 거예요. 개발자로 치면 난해한 커널 패치를 누군가 블로그에서 한 줄씩 해설해주는 느낌이죠.
야코비안 추측이 뭐냐면요
개발자에게 익숙한 말로 바꿔볼게요. 입력을 받아 출력을 내는 함수가 있는데, 이 함수가 오직 다항식(덧셈, 곱셈, 거듭제곱만으로 만든 식)으로만 이루어져 있다고 해봐요. 질문은 이거예요. '이 함수를 되돌릴 수 있는가?' 즉 출력만 보고 입력을 유일하게 복원할 수 있느냐는 거죠.
여기서 '야코비안 행렬식'이라는 개념이 나오는데요. 이게 뭐냐면, 함수가 각 지점에서 공간을 얼마나 늘리거나 찌그러뜨리는지를 나타내는 값이에요. 이 값이 어떤 지점에서 0이 되면 그 근처에서는 정보가 뭉개져서 되돌릴 수 없어요. 야코비안 추측은 이렇게 말해요. '다항식 함수의 야코비안 행렬식이 어디서나 0이 아닌 상수라면, 그 함수는 전체 공간에서 역함수를 갖고, 심지어 그 역함수도 다항식이다.' 직관적으로는 '어느 지점에서도 국소적으로 정보 손실이 없다면 전역적으로도 완벽하게 되돌릴 수 있다'는 아주 그럴듯한 이야기예요. 그래서 다들 참이라고 믿었던 거고요.
왜 그렇게 어려웠을까요
부분적인 결과는 꽤 많았어요. 2차 이하 다항식에서는 참이라는 게 증명됐고, 1982년에는 어떤 경우든 '3차 동차 다항식' 케이스로 문제를 좁힐 수 있다는 것도 밝혀졌어요. 이렇게 문제를 좁혀놓고 보면 금방 풀릴 것 같았는데, 그 마지막 한 걸음이 수십 년간 넘어가지지 않았죠. 이 문제는 '증명했다'는 논문이 수십 편 나왔다가 전부 오류로 철회된 걸로도 악명이 높았어요. 그만큼 사람의 직관이 잘 통하지 않는 문제였다는 뜻이에요.
반례가 존재한다는 건, 야코비안 행렬식이 상수인데도 역함수가 없는 다항식 지도가 실제로 있다는 거예요. 이런 반례는 보통 사람이 손으로 떠올릴 수 있는 크기가 아니라서, 검증 과정에서 컴퓨터의 역할이 커요. 거대한 다항식을 전개해서 야코비안 행렬식이 정말 상수인지 확인하는 건 Mathematica, SageMath, Macaulay2 같은 컴퓨터 대수 시스템이 기계적으로 해낼 수 있는 일이거든요. 최근 수학계가 Lean 같은 정리 증명 보조 도구로 중요한 결과를 형식 검증하는 문화를 만들어가고 있다는 점도 이런 상황에서 빛을 발하는데, 타오 본인이 바로 그 형식화 흐름의 최전선에 있는 사람이기도 해요.
후폭풍도 만만치 않아요
야코비안 추측은 혼자가 아니에요. 비가환 대수 쪽의 '딕스미에 추측(Dixmier Conjecture)'이라는 문제와 사실상 한 몸이라는 게 알려져 있거든요. 야코비안 추측이 거짓으로 판명 나면 딕스미에 추측도 함께 무너지는 구조라서, 반례 하나가 여러 분야에 연쇄적으로 파장을 일으켜요. 그동안 '야코비안 추측이 참이라고 가정하면'으로 시작했던 논문들도 전부 재점검 대상이 되고요.
개발자인 우리에게 주는 생각거리
'87년 동안 모두가 참이라 믿었지만 틀렸다'는 이야기, 소프트웨어에서도 낯설지 않죠. 우리도 '이 라이브러리는 스레드 세이프하다', '이 로직은 이 입력에서 절대 안 터진다' 같은 가정을 검증 없이 물려받아 쓰다가 한참 뒤에 무너지는 걸 경험하잖아요. 직관이 아무리 그럴듯해도 증명(테스트)되기 전까지는 가정일 뿐이라는 것, 그리고 사람의 직관이 닿지 않는 영역은 컴퓨터를 이용한 검증이 메워준다는 것. 이번 사건이 수학 바깥의 우리에게도 남기는 교훈이에요.
한 줄 정리: 87년 묵은 야코비안 추측에 반례가 나왔고, 테렌스 타오가 그 구성을 누구나 따라올 수 있게 해설하는 글을 올렸어요. 여러분은 오랫동안 당연하다고 믿었다가 나중에 틀린 걸로 판명 난 기술적 '상식'이 있었나요? 댓글로 나눠주세요.
🔗 출처: Hacker News