30년 묵은 인텔의 비밀이 풀렸다 - 80386 마이크로코드 디스어셈블 프로젝트

칩 안에 숨겨진 인텔의 영업 비밀

reenigne이라는 연구자가 정말 놀라운 작업을 마쳤어요. 1985년에 출시된 인텔 80386 프로세서의 마이크로코드 전체를 디스어셈블하는 데 성공한 거예요. 30년 넘게 인텔이 영업 비밀로 꽁꽁 싸매고 있던 정보가, 한 명의 연구자에 의해 백일하에 드러난 셈이죠. 이건 단순한 호기심 충족을 넘어, 컴퓨터 역사의 한 페이지를 새로 쓰는 작업이라고 봐도 과언이 아니에요.

마이크로코드가 뭔지 잠깐 다시 짚고 갈게요. CPU는 우리가 ADD, MUL 같은 명령어를 주면 그걸 실행하잖아요? 그런데 이 명령어들이 너무 복잡한 경우가 있어요. 예를 들어 곱셈은 단순한 회로로 한 번에 처리하기 어려워서, 내부적으로 "이거 했다가, 저거 했다가, 합쳤다가" 하는 여러 단계로 쪼개져요. 그 단계를 정의하는 게 마이크로코드예요. CPU 안의 또 다른 작은 프로그램인 거죠. 인텔, AMD, ARM 모두 자기들만의 마이크로코드를 가지고 있고, 이건 보통 절대 외부에 공개되지 않아요.

어떻게 추출했나

과정 자체가 한 편의 추리 소설이에요. reenigne은 실제 80386 칩을 가져다가 표면을 화학적으로 벗겨내고 현미경으로 들여다봤어요. 이걸 "die shot"이라고 하는데, 칩 내부의 회로를 직접 사진으로 찍는 거예요. 그 사진에서 마이크로코드가 저장된 ROM 영역을 찾아내고, 비트 패턴을 하나하나 읽어낸 거죠.

근데 비트 패턴을 읽었다고 끝이 아니에요. 그 비트들이 무슨 뜻인지 해석해야 하잖아요. 인텔이 사용한 마이크로코드 명령어 포맷은 문서화되어 있지 않으니까, 역공학으로 추측해 나가야 했어요. 어떤 비트가 어떤 동작을 의미하는지, 분기는 어떻게 처리되는지, 레지스터 접근은 어떻게 인코딩되는지를 하나씩 알아낸 거예요. 이게 거의 암호 해독 수준의 작업이에요.

그 결과로 80386 마이크로코드의 모든 명령어 구현이 드러났어요. 예를 들어 DIV(나눗셈) 명령이 내부적으로 어떤 알고리즘을 쓰는지, LOOP 명령이 어떻게 카운터를 감소시키는지, 보호 모드에서 세그먼트 디스크립터를 읽을 때 어떤 검사를 하는지까지 다 보여요. 386의 그 유명한 페이지 폴트 처리도, 외부에서 보이지 않는 미세한 동작 순서가 다 노출된 거예요.

왜 이게 중요한가

첫째, 역사적 가치가 어마어마해요. 80386은 현대 x86 아키텍처의 출발점이에요. 32비트, 보호 모드, 페이징 같은 개념이 모두 386에서 자리잡았고, 지금 우리가 쓰는 인텔/AMD CPU의 직계 조상이거든요. 이걸 완전히 이해한다는 건 컴퓨터가 어떻게 지금의 모습이 되었는지 그 뿌리를 보는 일이에요.

둘째, 에뮬레이터와 가상화의 정확도가 비약적으로 올라갈 수 있어요. QEMU, DOSBox, Bochs 같은 에뮬레이터들은 386 이상의 CPU를 시뮬레이션하지만, 모든 엣지 케이스를 완벽하게 재현하지는 못해요. 인텔 매뉴얼에 안 적혀 있는 동작들이 있거든요. 이제 마이크로코드 차원에서 진짜 동작을 알 수 있으니, 진짜 386과 똑같이 동작하는 에뮬레이터를 만들 수 있어요.

셋째, 보안 연구에도 의미가 있어요. CPU 마이크로코드에 버그가 있으면 그게 시스템 전체의 보안 구멍이 되거든요. Spectre나 Meltdown 같은 사건이 그걸 보여줬죠. 옛날 CPU의 마이크로코드를 분석해보면, 현대 CPU에도 비슷한 패턴의 취약점이 있는지 추적할 단서를 얻을 수 있어요.

다른 비슷한 시도들

Ken Shirriff라는 또 다른 유명한 연구자가 비슷한 방식으로 6502, Z80, 8086 같은 옛날 CPU들을 분석해왔어요. 그가 운영하는 블로그를 보면 다이샷에서 회로를 추적해서 트랜지스터 단위로 동작을 설명해주거든요. reenigne의 이번 작업은 그 흐름의 연장선이지만, 386은 훨씬 복잡한 칩이라서 난이도가 차원이 달라요.

또 앞에서 소개한 z386 FPGA 프로젝트가 바로 이 디스어셈블 결과를 활용하고 있어요. 이론적 연구가 곧바로 실용적 결과물로 이어진 좋은 예시죠. 오픈소스 하드웨어 운동이 점점 활발해지면서, RISC-V뿐 아니라 옛날 x86 호환 코어까지 자유롭게 만들 수 있는 시대가 오고 있어요.

한국 개발자에게 주는 시사점

시스템 프로그래밍이나 OS 커널을 공부하는 분들에게는 이 자료가 정말 보물이에요. "인텔 매뉴얼에는 이렇게 적혀 있는데, 실제로는 어떻게 동작할까?" 같은 궁금증을 직접 확인할 수 있는 거니까요. 컴파일러 만드는 분이나 디버거 개발하는 분에게도 마찬가지고요.

조금 더 넓게 보면, "블랙박스를 두려워하지 말자"는 메시지가 있어요. CPU 같은 거대한 시스템도 결국은 사람이 만든 거고, 충분한 호기심과 시간만 있으면 풀어낼 수 있다는 걸 보여주잖아요. 한국에서도 반도체 설계 인재가 점점 늘어나고 있는데, 이런 깊이 있는 역공학 문화도 함께 자라면 좋겠어요.

마무리

30년 묵은 비밀을 풀어낸 한 사람의 집념이 만들어낸 결과예요. 컴퓨터 산업의 가장 깊은 층위가 이렇게 한 꺼풀씩 벗겨질 때마다, 우리가 매일 쓰는 기술의 정체가 조금씩 더 분명해지죠. 여러분은 어떤 블랙박스를 가장 열어보고 싶으세요? 현대 CPU의 마이크로코드도 언젠가 이렇게 공개되는 날이 올까요?