오늘날 반도체 공정은 나노미터를 다루고, CNC 공작기계는 마이크로미터 단위로 금속을 깎는다. 그런데 이런 정밀도의 출발점에는 묘한 순환 문제가 있다. 정확한 기계를 만들려면 그보다 정확한 기준이 필요한데, 세상에 아직 정확한 기계가 하나도 없다면 첫 번째 정밀 부품은 대체 무엇을 보고 만드는가. 18세기 공방은 큰 실린더를 둥글게, 긴 레일을 곧게, 나사산을 고르게 깎는 일조차 버거웠다. 작업장 자의 가장 작은 눈금이 16분의 1인치, 약 1.5mm였으니 측정조차 어려웠다. 그런데 1850년대 조셉 휘트워스는 100만분의 1인치 차이를 감지하는 기계를 만든다. 그 사이에 벌어진 일이, 소프트웨어 엔지니어에게도 낯익은 부트스트래핑의 이야기다.
강성(剛性)이 정확도를 복제한다
와트의 증기기관은 이 문제를 날카롭게 드러낸다. 뉴커먼 기관은 피스톤 위에 물을 고여 울퉁불퉁한 실린더 벽의 틈을 메웠지만, 와트는 응축기를 분리해 실린더를 뜨겁게 유지하는 대신 마른 패킹을 써야 했다. 패킹은 틈을 메울 만큼 늘어나지 못하므로, 보어(구멍)가 행정 전 구간에서 둥글고 곧아야 했다. 1769년 키닐에서 시험한 18인치 실린더는 최악 지점에서 지름 차이가 약 8분의 3인치, 반 미터도 안 되는 통에서 1cm에 가까운 오차였다. 두 부품을 맞대고 닿는 자리를 줄로 깎아 맞추던 전통적 '피팅'은 깊은 보어 안쪽에 손이 닿지 않아 통하지 않았다.
돌파구는 1775년경 철공업자 존 윌킨슨이 열었다. 그는 실린더를 관통해 양쪽 끝 베어링에 지지되는 무거운 봉을 쓴 보링 머신을 만들었다. 한쪽만 받친 종전의 봉은 제 무게로 처지고 벽에 밀려 휘어진 구멍을 그대로 따라갔지만, 양끝을 받친 봉을 따라가는 커터는 자를 따라가는 연필처럼 곧은 보어를 냈다. 1776년 볼턴은 윌킨슨이 깎은 50인치 실린더가 "어느 부분도 낡은 실링 두께만큼도 어긋나지 않는다"고 적었다. 1000분의 1 이하의 상대 오차, 7년 전 시험 실린더보다 약 30배 정확한 값이다. 핵심은 '충분히 단단한 기준이 제 정확도를 가공물에 그대로 옮겨 찍는다'는 발상이었다.
선반도 같은 논리를 따랐다. 손으로 공구를 받치면 떨림(채터)이 증폭됐지만, 1790년대 헨리 모즐리가 주철 캐리지로 공구를 물려 절삭력을 사람 팔이 아니라 쇠로 받게 한 슬라이드 레스트는 떨림을 잡았다. 다만 이제 공구는 침대의 안내면(ways)을 따라가므로, 안내면의 휨이 그대로 가공물에 복제됐다. 결국 모든 정확도는 '평평한 기준면'이라는 더 근본적인 문제로 수렴했다.
세 장의 판, 원본 없는 기준의 창조
여기서 가장 아름다운 해법이 등장한다. 두 금속판을 색을 묻혀 맞대 비비면 닿은 높은 지점만 색이 옮고, 그곳을 스크레이퍼로 긁어낸다. 그러나 두 장만으로는 서로 '맞는지'만 알 수 있을 뿐 평평한지는 알 수 없다. 살짝 볼록한 판은 살짝 오목한 판에 꼭 맞아 들어가 둘 다 고르게 색이 묻기 때문이다. 그래서 세 장을 쓴다. 볼록은 오목에 맞을 수 있지만, 볼록끼리·오목끼리는 결코 맞지 않는다. A·B, B·C, C·A 세 쌍을 돌아가며 비교하고 긁다 보면, 세 장이 모든 짝과 방향에서 동시에 맞는 상태는 오직 세 판이 모두 평평할 때뿐이다. 거친 주물 세 덩이에서 복제할 원본 없이 평면 기준을 만들어내는 것이다. 공구 제작자들은 지금도 이 '3면 맞춤법'을 쓴다. 모즐리의 공방은 1829년 작업대마다 스크레이핑한 기준판을 두었고, 휘트워스는 1840년 이 방법을 공개하며 보급을 촉구했다.
이렇게 정밀도는 장인의 손끝에서 기계의 구조로 옮겨가며 산업화됐다. 1817년경 등장한 평삭기(플레이너)는 주물 위를 공구가 왕복하며 거친 금속을 빠르게 걷어냈다. 휘트워스는 1856년, 30년 전 주철 1제곱피트를 다듬는 데 12실링이 들던 일을 평삭기가 1페니도 안 되는 비용으로 해낸다고 추산했다. 100배 넘게 싸진 것이다.
IT 실무자에게 남는 질문
이 역사가 흥미로운 이유는, 소프트웨어가 매일 같은 순환 문제를 다루기 때문이다. 자기 자신을 컴파일하는 컴파일러의 부트스트랩, 신뢰할 원본이 없을 때 쓰는 차등 테스트(differential testing), 하나의 절대 기준 대신 여러 구현을 교차 비교해 진실에 수렴시키는 방식은 3면 맞춤법과 구조가 같다. 단일한 '정답 오라클'이 없어도 상호 비교의 제약만으로 오차를 몰아낼 수 있다는 것, 그리고 리드 스크루의 불균일이 모든 나사산에 복제되듯 기준의 작은 오차가 하류 산출물 전체로 전파된다는 것은 툴체인·골든 레퍼런스·캘리브레이션을 다루는 이들에게 그대로 적용되는 교훈이다. 나사산이 제각각이던 시절 볼트와 너트를 짝으로 표시해야 했던 상황은, 표준 없는 인터페이스가 어떤 통합 비용을 낳는지도 보여준다.
다만 이 글은 인터랙티브 3D 도형으로 역사를 따라가는 해설이며, 휘트워스의 100만분의 1인치 측정기 자체의 작동 원리까지 깊이 파고들지는 않는다. 또한 리드 스크루를 안내할 정확한 나사가 없는 상태에서 첫 정밀 나사를 어떻게 깎았는가라는 결정적 물음은 열어둔 채 끝난다. 연작의 한 편인 셈이다. 기계사의 비유를 소프트웨어 공정에 그대로 대입하는 것은 어디까지나 발상의 자극일 뿐 공학적 등가물은 아니라는 점도 염두에 둘 만하다. 그럼에도 '원본 없이 기준을 벼려내는' 이 계보는, 추상 위에 추상을 쌓는 오늘의 엔지니어링이 어디에 뿌리를 두고 있는지 되돌아보게 한다.