오늘날 보안 담당자에게 '음성 통화 암호화'는 메신저 앱의 기본 기능처럼 익숙하지만, 그 개념이 처음 실현된 것은 80여 년 전 전쟁의 한복판이었다. 영국 처칠 전시 상황실(Churchill War Rooms) 지하 복합시설에는 전쟁 당시 그곳에서 일하던 사람들조차 존재를 몰랐던 방이 하나 있었다. 겉보기에는 처칠 전용 화장실처럼 꾸며진 작은 벽장이었지만, 그 안에는 미국 대통령과 직접 통화할 수 있는 비밀 단말기가 숨겨져 있었다. 이 시스템의 이름이 바로 SIGSALY다.
도청되는 전화에서 출발한 문제
미국이 1941년 12월 참전하기 전부터, 처칠 총리는 루스벨트 대통령과 긴밀히 접촉하기를 원했다. 그러나 1930년대의 통신 기술로는 '사적인' 통화는 가능해도 '완전히 비밀스러운' 통화는 불가능했다. A-3 같은 스크램블러 전화기가 어느 정도 보안을 제공했지만, 통화 자체가 가로채기에 노출돼 있었다. 그래서 두 지도자는 주로 암호화된 전보로 소통했고, 전화를 쓸 때는 검열관이 함께 듣다가 금지된 내용이 나오면 통화를 끊어버렸다. 더 신뢰할 수 있는 수단이 필요했고, 1940년 10월 미국의 한 기업이 대서양을 가로지르는 안전한 음성 통화를 위한 비밀 프로젝트에 착수했다.
'프로젝트 X'라 불린 이 작업은 뉴욕의 벨 전화연구소(Bell Telephone Laboratories)가 맡았다. 핵심 발상은 지금의 디지털 통신과 놀랄 만큼 닮아 있다. 사람의 목소리를 디지털 신호로 바꾸고, 여기에 무작위로 생성한 잡음을 섞은 뒤, 그 합쳐진 신호를 전파에 실어 대서양 건너로 보냈다. 수신 측에서는 무작위 잡음을 다시 분리해내고, 남은 디지털 음성 신호를 보코더(vocoder, 음성 부호화기)로 복원해 알아들을 수 있는 목소리로 되돌렸다. 독일의 도청자가 신호를 가로채도 들리는 것은 의미 없는 잡음뿐이었다.
동기화가 곧 보안이었다
SIGSALY의 보안성이 뛰어났던 이유이자 동시에 운용을 까다롭게 만든 요인은 '완벽한 동기화'에 있었다. 음성 신호에 섞는 무작위 잡음은 대형 턴테이블 위의 레코드판에서 생성됐다. 양쪽 끝의 운용자는 완전히 동일한 음반을 정확히 같은 시각에 재생해야 했고, 한 장의 음반은 12분밖에 지속되지 않았으며 사용 후에는 폐기됐다. 쓰고 버리는 무작위 키로 신호를 뒤섞는 이 방식은, 키를 재사용하지 않는 현대 암호 설계의 원칙과 본질적으로 통한다. 다만 이런 구조 탓에 통화는 사전에 일정을 잡아야 했고, 즉흥적으로 걸 수는 없었다.
기술은 비싸고 거대했다. 단말기 한 대의 가격은 1943년 기준 100만 달러였고, 무게는 5만 kg, 즉 50톤을 넘었다. 첫 단말기는 펜타곤에 설치돼 백악관까지 연결됐고, 이후 전 세계 11곳에 추가로 들어섰다. 그중 하나가 런던 중심부 셀프리지스 백화점의 지하 2층 아래에 설치돼 1943년 7월부터 가동됐으며, 여기서 미국 대사관과 다우닝가 10번지로 연결선이 뻗었다. 처칠 전시 상황실로 이어진 분기선이 바로 그 '화장실처럼 위장한 벽장' 속 단말기였다.
특수 관계를 떠받친 인프라
처칠과 루스벨트가 SIGSALY로 처음 대화한 것은 1944년 4월이었다. 이후 몇 차례 더 통화했지만 두 사람의 소통 대부분은 여전히 암호 메시지를 통해 이뤄졌다. 오히려 셀프리지스 지하의 단말기는 연합군 고위 군사 기획자들이 워싱턴과 안전하게 통화하는 용도로 훨씬 자주 쓰였다. 전쟁 기간 12대의 SIGSALY 단말기는 최소 3,000건의 통화를 처리했으며, 알제, 호주, 필리핀 등 설치 지역의 분포는 2차대전이 얼마나 전 지구적 전쟁이었는지를 보여준다. 1945년 4월 루스벨트가 사망하자 처칠은 SIGSALY로 후임 트루먼에게 조의를 전했고, 2주 뒤 두 번째 통화에서는 유럽 전쟁 종결 이후의 구상을 두 시간 넘게 논의했다.
실무자의 눈으로 보면 SIGSALY는 보안이 단지 알고리즘의 문제가 아님을 일찍부터 보여준 사례다. 음성의 디지털화, 무작위 키를 통한 혼합, 수신 측 복원이라는 설계는 견고했지만, 그 견고함은 양쪽 운용자가 동일한 키 매체를 분 단위로 맞춰 재생하고 즉시 폐기하는 운영 규율 위에서만 성립했다. 또한 50톤짜리 장비를 전쟁이 한창인 영국까지 실어 보내고 미군 통신병 팀을 붙여 운용했다는 사실 자체가, 이 동맹에 투입된 자원과 신뢰의 크기를 말해준다. 완벽한 기술도 결국 이를 운용할 조직과 절차, 그리고 그것을 뒷받침할 의지가 있을 때 비로소 작동한다는 점은 오늘날의 보안 설계에도 그대로 적용되는 교훈이다.