보안과 머신러닝을 연구하는 Nicholas Carlini가 재미있는 질문을 던졌어요. 요즘 체스 엔진을 1996년 펜티엄 PC에서 돌렸다면, 당시 세계 챔피언 카스파로프를 이길 수 있었을까요? 먼저 밝혀둘 게 있어요. 이 글은 원문을 확인하지 못한 채 쓴 글이라 Carlini의 실험 결과나 결론은 담지 않았어요. 대신 공개된 체스 엔진의 역사를 바탕으로 이 질문을 어떻게 따져볼 수 있는지 풀어볼게요. 실제 답은 원문에서 꼭 확인해 보세요.
이 질문이 흥미로운 건 체스 이야기로 끝나지 않기 때문이에요. 지난 30년의 발전 중에서 하드웨어 덕분인 부분과 알고리즘 덕분인 부분을 떼어서 보는 실험이거든요. 컴퓨터를 1996년으로 고정하면 남는 차이는 소프트웨어뿐이니까요.
1996년의 기준선
1996년 2월, IBM의 딥 블루는 카스파로프와 여섯 판 승부를 벌였어요. 첫 판은 이겼지만 전체 결과는 카스파로프의 4대 2 승리였죠. 이듬해 개량판이 3.5대 2.5로 이기면서 역사에 남았고요.
딥 블루는 평범한 컴퓨터가 아니었어요. IBM 병렬 컴퓨터에 체스 전용 칩을 수백 개 붙인 장비라서, 1996년 버전도 1초에 수천만 개가 넘는 국면을 살펴봤거든요. 같은 해 펜티엄 PC는 클럭이 100~200MHz, 메모리는 수십 MB가 보통이었어요. 볼 수 있는 국면 수가 몇 자릿수나 적은 거죠. 그러니 최신 엔진은 이 격차를 '더 적게 보고도 더 잘 판단하는' 능력으로 메워야 해요.
탐색: 안 봐도 되는 수를 골라내는 기술
체스는 한 국면에서 둘 수 있는 수가 평균 35개쯤 돼요. 양쪽 합쳐 10수 앞만 내다봐도 35의 10제곱, 약 2,700조 가지가 넘죠. 전부 볼 수는 없으니 가지치기가 핵심이에요.
가장 기본은 알파-베타 탐색인데요, 이게 뭐냐면 '이 수는 아까 본 수보다 나쁘다는 게 이미 확인됐으니 더 안 봐도 된다'고 판단해서 끊는 방법이에요. 이건 딥 블루도 썼어요. 그 뒤로 엔진들은 훨씬 과감해졌어요.
- 널 무브 가지치기: 내 차례를 일부러 한 번 쉬어도 여전히 유리하면, 이 국면은 깊게 안 봐도 괜찮다고 판단해요.
- 후순위 수 축소(LMR): 좋아 보이는 수부터 살피고 뒤쪽 수는 얕게만 봐요. 의외로 좋으면 그때 다시 깊게 보고요.
- 전치 테이블: 다른 순서로 도달한 같은 국면의 결과를 저장해 두고 재사용해요. 개발자에게 익숙한 메모이제이션이죠.
평가: 사람이 짠 규칙에서 신경망으로
두 번째 변화는 국면을 점수로 매기는 평가 함수예요. 딥 블루는 전문가와 함께 다듬은 수많은 규칙을 썼어요. 지금의 Stockfish는 2020년에 NNUE를 도입했는데요, 일본 쇼기 프로그램 쪽에서 나온 작은 신경망 구조예요. 기물 하나가 움직이면 입력이 조금만 바뀐다는 점을 이용해서, 바뀐 부분만 다시 계산하니까 GPU 없이 CPU에서도 빠르게 돌아가요.
다만 펜티엄에서는 걸림돌이 있어요. NNUE는 여러 값을 한 번에 처리하는 SIMD 명령어에 크게 기대는데, MMX조차 1997년에야 나왔거든요. 네트워크 크기도 수십 MB라 당시 메모리에는 부담스럽고요. 현실적으로는 훨씬 작은 네트워크로 줄여야 할 수도 있어요. 또 하나, 이 신경망을 학습시키는 데 쓴 연산은 1996년에는 불가능한 규모예요. 그러니까 이 실험은 미래의 연산으로 얻은 지식을 과거로 들고 가는 것이기도 해요.
힌트가 되는 실제 사례
2009년에 Pocket Fritz 4라는 프로그램이 HTC Touch HD 스마트폰에서 돌면서 아르헨티나의 Copa Mercosur 대회에서 우승했어요. 초당 2만 개도 안 되는 국면을 보면서 퍼포먼스 레이팅 2900 안팎을 기록했다고 알려져 있죠. 1996년 카스파로프의 레이팅이 2700대 후반이었으니 꽤 의미심장한 숫자예요. 물론 대회 한 번의 성적이고 상대도 카스파로프가 아니어서 그대로 비교할 수는 없어요. 그래도 그때 이미 초당 탐색량이 딥 블루의 수천분의 일이어도 강할 수 있었던 거예요. 게다가 NNUE는 그 뒤에 나왔고요.
업계 맥락: 체스만의 이야기가 아니에요
비슷한 일이 AI 전반에서 일어나고 있어요. OpenAI는 2020년 분석에서 같은 이미지 분류 성능을 내는 데 필요한 학습 연산이 7년 사이 44분의 1로 줄었다고 밝혔어요. 요즘 작은 언어 모델이 몇 년 전 큰 모델을 따라잡는 것도 같은 흐름이고요. 체스 안에서도 길은 갈렸어요. AlphaZero는 대규모 가속기로 학습한 깊은 신경망을 택했고, Stockfish는 작은 신경망과 정교한 탐색을 결합해 CPU 효율을 살렸죠.
한국 개발자에게 주는 시사점
실무에 바로 가져갈 수 있는 교훈이 있어요. 서버를 늘리기 전에 안 해도 되는 계산을 찾아보세요. 가지치기는 조기 종료와 인덱스고, 전치 테이블은 캐시고, NNUE의 증분 계산은 증분 빌드나 UI의 부분 렌더링과 같은 발상이에요.
검증 문화도 배울 만해요. Stockfish는 Fishtest라는 분산 시스템으로 변경 사항마다 수많은 대국을 돌려 통계적으로 나아졌을 때만 받아들여요. 감으로 최적화하지 말고 측정하라는 좋은 본보기죠. 온디바이스 AI를 다룬다면 Stockfish 코드도 읽어볼 만해요.
마무리
핵심은 이거예요. 30년치 알고리즘의 발전은 수천 배 하드웨어 격차와 겨뤄볼 만한 후보가 될 만큼 커요.
여러분은 어떻게 예상하시나요? 펜티엄 위의 최신 엔진이 이겼을까요? 그리고 서버 증설 없이 알고리즘만 바꿔서 성능을 크게 끌어올린 경험이 있다면 들려주세요!
🔗 출처: Hacker News