물 한 컵에 떠 있는 꽃가루 입자의 수직 위치를 시간에 따라 기록하면, 그 궤적은 톱니처럼 불규칙한 선을 그린다. 같은 관찰을 여러 번 반복해도 똑같은 경로가 다시 나타나는 일은 없다. 이렇게 매번 달라지는 현상을 두고 "그래도 무언가 유의미한 말을 할 수 있는가"라는 질문이 확률론의 출발점이다. 핵심 발상은 실제로 일어난 하나의 경로와 일어날 수 있었던 다른 모든 경로를 분리하는 것이다. 즉 가능한 모든 경로가 무엇이고 각각이 얼마나 일어남 직한지를 따지면, 완전히 무작위인 과정조차 결과의 분포라는 관점에서 다룰 수 있게 된다.
한 세기에 걸친 수수께끼
이 현상은 1830년대 스코틀랜드 식물학자 로버트 브라운이 현미경으로 물속 꽃가루를 관찰하다 발견했다. 처음에는 입자가 살아 있기 때문이라고 여겼지만, 유리 가루와 광물, 심지어 이집트 스핑크스의 분쇄 조각처럼 분명히 무생물인 입자에서도 같은 움직임을 확인하고 그 가설을 스스로 기각했다. 이후 약 반세기 동안 원인은 밝혀지지 않은 채 '브라운 운동'이라는 이름만 남았다. 1905년 아인슈타인은 입자가 눈에 보이지 않는 분자들의 충돌에 떠밀린다는 가설을 제시했고, 이듬해 폴란드 물리학자 스몰루홉스키가 독립적으로 사실상 같은 이론을 내놓았다. 분자의 존재조차 널리 받아들여지지 않던 때라 논쟁적이었으나, 통계역학으로 도출한 예측을 장 바티스트 페랭이 1909년 실험으로 검증했다. 수학적으로는 노버트 위너가 1923년에 형식화해, 수학자들은 이를 위너 과정이라 부르기도 한다.
동전 던지기로 쌓는 모형
연속적인 운동을 곧바로 다루기는 어려우므로, 먼저 시간을 잘게 쪼갠 이산 모형인 '무작위 보행'에서 시작한다. 시계가 한 번 째깍일 때마다 치우친 동전을 던져, 앞면이면 입자가 위로 u만큼, 뒷면이면 아래로 u만큼 움직인다고 가정한다. 동전은 물 분자의 무작위 충돌을 대신한다. 각 던지기 결과를 -1 또는 1을 갖는 변수로 보면, n번 후 입자의 위치는 이 값들에 u를 곱해 모두 더한 합이 된다. 가능한 위치들을 왼쪽에서 오른쪽으로 뻗는 이항 트리로 그리면, 뿌리에서 잎까지 이어지는 각 경로가 하나의 시나리오에 대응한다.
특정 잎 노드에 도달할 확률을 구하는 문제는 결국 n번 던져 앞면이 k번 나올 확률을 구하는 문제와 같다. 예컨대 세 번 던져 앞면 둘·뒷면 하나가 나오는 사건은 HHT, HTH, THH라는 세 경로로 실현되므로, 공정한 동전이라면 그 확률은 3/8이 된다. 일반적으로 n번 중 k번 앞면이 나오는 경우의 수는 'n 중 k'라 읽는 이항계수로 세며, 도달 확률은 여기에 앞면 확률 p의 k제곱과 뒷면 확률 q의 (n-k)제곱을 곱한 값이다. 이 분포가 야코프 베르누이가 처음 밝힌 이항분포이고, 트리의 이름도 여기서 왔다.
앞면 횟수를 나타내는 변수는 독립적인 베르누이 변수들의 합이므로 평균은 np, 분산은 npq로 간단히 나온다. 다만 우리가 알고 싶은 것은 앞면 횟수가 아니라 입자의 위치다. 위치는 위로 간 횟수에서 아래로 간 횟수를 빼고 이동 폭 u를 곱한 값, 즉 u(2K-n)으로 앞면 횟수와 일대일로 연결된다. 따라서 두 변수는 같은 확률을 공유하되 평균과 분산 같은 적률만 달라진다. 이 이산 모형을 연속 시간으로 확장한 것이 브라운 운동이며, 특정 시점에서 입자 위치의 주변분포는 결국 정규분포로 수렴한다.
실무자에게 주는 함의
이 전개가 개발자와 데이터 실무자에게 주는 메시지는 분명하다. 완전히 무작위해 보이는 과정이라도 '가능한 경로의 분포'라는 틀로 바꿔 놓으면 수학적으로 정밀한 확률적 진술이 가능해진다는 점이다. 브라운 운동은 액체 속 입자뿐 아니라 주가의 변동을 모델링하는 데도 쓰이며, 몬테카를로 시뮬레이션이나 금융 수치 모형, 최근의 생성형 확산 모델에 이르기까지 무작위 보행과 정규분포로 수렴하는 구조는 반복해서 등장한다. 많은 라이브러리가 이 과정을 블랙박스로 제공하지만, 이항 트리에서 정규분포가 어떻게 나오는지를 이해해 두면 시뮬레이션 결과의 편향이나 분산이 왜 그렇게 나오는지를 읽어낼 수 있다.
다만 이 글이 다루는 범위의 한계도 분명히 해 둘 필요가 있다. 여기서 제시된 것은 이산 시간 무작위 보행에서 이항분포까지의 유도이며, 연속 시간으로의 극한과 정규분포 수렴의 엄밀한 증명, 시간에 따른 분산의 변화 같은 부분은 결론으로만 제시되고 상세한 과정은 뒤로 미뤄져 있다. 또한 동전의 치우침 p, 이동 폭 u, 시간 간격 같은 가정이 현실의 입자나 자산 가격에 그대로 들어맞는지는 별개의 문제다. 모형은 무작위성을 다루기 위한 출발점일 뿐이며, 실제 데이터에 적용할 때는 이 단순화된 전제들이 어디서 깨지는지를 함께 따져야 한다.