양자역학의 창시자 중 한 명인 에르빈 슈뢰딩거는 흔히 '양자 무작위성'에 불편함을 느꼈던 인물, 즉 우주가 근본적으로 예측 가능하다고 믿었던 결정론자로 묘사되곤 한다. 그러나 오스트리아의 한 도서관에서 80여 년간 먼지에 덮여 있던 세 쪽짜리 원고가 이런 통념을 흔들고 있다. 제네바 대학의 물리학 사학자 플라비오 델 산토가 발굴해 arXiv에 공개한 이 짧은 수기 원고에는, 양자역학에서 가장 논쟁적인 주제 중 하나였던 '우주는 결정론적인가'라는 물음에 대한 슈뢰딩거의 잊힌 기여가 담겨 있다.
숨은 변수를 둘러싼 오래된 다툼
고전물리학에는 진정한 무작위라는 것이 없다. 주사위의 흠집, 난수 생성기의 알고리즘, 동전 던지기를 지배하는 물리력까지, 원리상으로는 모든 결과가 선행 조건에 의해 결정된다. 이것이 결정론이며, 우리가 모든 조건을 알지 못하더라도 고전적 거동은 앞선 상태로 결정된다는 가정은 고전역학의 토대로 남아 있다. 반면 광자나 전자 같은 양자 규모의 입자는 확률로만 거동을 예측할 수 있다. 특정 결과가 나올 가능성은 극히 정밀하게 계산되지만, 개별 입자가 무엇을 할지는 단정할 수 없다.
여기서 핵심 질문이 갈라진다. 우주는 근본적으로 무작위인가, 아니면 양자역학이 아직 포착하지 못한 '숨은 변수'가 입자의 거동을 결정하고 있는가. 1932년 수학자 폰 노이만은 그런 숨은 변수가 불가능하다는 수학적 증명으로 널리 해석된 결과를 발표했고, 이후 10여 년간 숨은 변수 연구는 사실상 멈췄다. 1935년 수학자 그레테 헤르만이 폰 노이만의 논증에 상당한 허점이 있음을 지적했지만, 그 비판은 대체로 무시됐다.
되살아난 논쟁과 슈뢰딩거의 반박
역설적이게도 숨은 변수 논쟁을 다시 불붙인 것은 결정론의 붕괴를 선언한 사람들이었다. 1943년 에드먼드 휘태커는 양자역학이 고전적 결정론을 무너뜨렸으며 양자 무작위성은 진짜라고 주장했고, 1944년 사티엔드라 나트 보스는 인도과학회의에서 "물리학자들은 지식을 얻었지만 신앙을 잃었다"고 말했다. 같은 해 7월 헨리 피아지오가 네이처에 '결정론의 붕괴'라는 글을 실으며 논쟁이 학술지 지면에서 들끓었다.
휘태커는 간단한 사고실험을 제시했다. 편광판을 통과할지 반사될지를 미리 지시하는 숨은 변수를 각 광자가 지녔다면, 광자가 비행하는 동안 편광판 각도를 바꾸는 순간 그 지시는 무용지물이 되므로 숨은 변수는 존재할 수 없다는 것이다. 슈뢰딩거는 이 논증의 결정적 결함을 짚었다. 휘태커는 숨은 변수가 두 가지 값만 갖는다고 가정했지만, 그 변수가 0과 1 사이의 어떤 값이든 취할 수 있다고 보면 이야기가 달라진다. 슈뢰딩거는 결과가 광자의 숨은 변수와 편광판 각도 모두에 의존하는 수학 모형을 세웠고, 적절한 규칙을 부여하면 개별 상호작용을 무작위로 두지 않고도 양자역학이 예측하는 확률을 재현할 수 있음을 보였다. 더 나아가 광자가 편광판을 통과한 뒤 숨은 변수가 어떻게 갱신되는지에 대한 결정론적 규칙까지 고안해, 연속된 측정의 예측도 설명할 수 있게 했다.
주목할 점은 그의 의도였다. 슈뢰딩거는 자신이 결정론을 믿어서 그것을 옹호한 것이 아니라, 결정론이 '불가능하다'는 특정 주장에 맞서 그 가능성을 지킨 것이었다. 그는 "실험적 증거와 논리적 연역은 결정론적 견해든 비결정론적 견해든 어느 한쪽이 불가능하다는 것을 결코 증명할 수 없다"고 적었다.
끝내 출판되지 않은 원고
'결정론의 붕괴'라는 같은 제목으로 쓰인 이 반박문은 결국 세상에 나오지 못했다. 이유는 여전히 수수께끼지만, 델 산토는 한 가지 가능성을 제시한다. 1944년 하인리히 펠처가 유사한 숨은 변수 모형으로 휘태커의 논증이 성립하지 않음을 보였고, 슈뢰딩거가 이를 알게 되어 요점이 이미 제기됐다고 판단했을 수 있다는 것이다. 다만 슈뢰딩거의 모형은 숨은 변수의 갱신 규칙을 명시해 연속 측정까지 다룬다는 점에서 한발 더 나아간 것이었다.
이 발굴이 흥미로운 이유는 슈뢰딩거의 철학적 입장을 다시 비추기 때문이다. 그는 1920년대, 현대 양자역학이 등장하기도 전부터 자연법칙이 완벽히 예측 가능한 시계장치가 아니라 근본적으로 통계적일 수 있다고 주장했다. 물리학자 프란츠 엑스너의 영향 아래 그는 고전적 결정론을 "철학적 편견", "선험적 믿음"이라 부르기까지 했다. 원고는 이런 태도가 1940년대에도 바뀌지 않았음을 시사한다. 델 산토의 표현을 빌리면, 슈뢰딩거는 양자역학 이전에, 그리고 그와 무관하게 비결정론에 강한 확신을 품었고 평생 그것을 유지했다.
실무적 함의와 한계
이 일화가 오늘의 엔지니어나 데이터·보안 실무자에게 주는 교훈은 물리학의 세부보다 '불가능 증명'을 다루는 태도에 있다. 폰 노이만의 권위 있는 증명은 10년 넘게 연구를 얼어붙게 했지만, 가정 하나(숨은 변수가 두 값만 갖는다)를 느슨하게 풀자 반례가 나왔다. 수학적 엄밀함을 갖춘 '불가능 주장'이라도 그것이 딛고 선 암묵적 전제를 들여다보는 것이 중요하며, 하나의 반례 모형은 그 자체로 해법이 아니라 '통념이 틀릴 수 있다'는 원리 증명으로 기능한다는 점이다. 난수성, 예측 가능성, 재현성 같은 개념을 설계에 녹이는 분야라면 곱씹을 만한 지점이다.
다만 이 발견을 과대 해석하지 않는 것도 필요하다. 슈뢰딩거의 모형은 결정론이 참임을 입증하지 않으며, 델 산토 역시 그것을 결정론에 대한 독단적 지지가 아니라 불가능 주장에 맞선 원리 증명으로 못 박는다. 1940년대의 이 논쟁은 오늘날 대체로 잊혔지만 핵심 입장을 둘러싼 물리학계의 분열은 여전하다. 고양이 사고실험을 남긴 인물이, 우주가 결정론적인가 아닌가라는 질문을 또다시 '살아 있으면서 동시에 죽은' 상태로 남겨둔 셈이다.