OpenBSD를 모토로라 88000 프로세서에 올리기까지의 여정

사라진 CPU 위에 OS를 올린다는 것

요즘 개발자들에게 CPU 아키텍처라고 하면 x86이나 ARM 정도가 떠오르죠. 그런데 1980년대 후반에는 지금은 거의 잊혀진 또 하나의 아키텍처가 있었어요. 바로 모토로라의 88000(m88k) 시리즈예요. 이 프로세서에 OpenBSD를 포팅한 개발자의 경험담이 공개됐는데, 읽어보면 OS가 하드웨어 위에서 어떻게 돌아가는지에 대한 깊은 이해를 얻을 수 있어요.

모토로라 88000이 뭐냐면, 1988년에 모토로라가 내놓은 RISC 프로세서예요. RISC는 "Reduced Instruction Set Computer"의 약자인데, 쉽게 말해서 CPU가 실행할 수 있는 명령어의 종류를 적게 만드는 대신 각 명령어를 아주 빠르게 처리하자는 설계 철학이에요. 지금 여러분의 스마트폰에 들어있는 ARM 칩도 RISC 계열이에요. m88k는 당시 상당히 선진적인 설계였지만, 시장에서는 SPARC나 MIPS에 밀려서 결국 모토로라도 PowerPC 쪽으로 방향을 틀었어요.

왜 이미 사라진 아키텍처에 OS를 올리나요?

이게 핵심 질문인데요. 사실 실용적인 이유보다는 시스템 프로그래밍의 본질을 탐구하는 의미가 더 커요. OpenBSD 프로젝트는 원래 다양한 하드웨어 플랫폼을 지원하는 걸 중요하게 여기는 문화가 있어요. 여러 아키텍처를 지원하면 코드의 이식성(portability)이 자연스럽게 검증되거든요. 특정 아키텍처에서만 우연히 동작하는 버그를 잡을 수도 있고요.

이 포팅 작업이 흥미로운 이유는, 현대 개발자들이 당연하게 여기는 것들이 얼마나 많은 하드웨어 추상화 위에 서 있는지를 적나라하게 보여주기 때문이에요. 예를 들어 우리가 C 코드에서 함수를 호출할 때, 인자가 어떤 레지스터에 들어가고 리턴값은 어디에 저장되는지 같은 "호출 규약(calling convention)"이 있어요. 이게 아키텍처마다 다 달라서, OS 포팅을 할 때 이 부분을 정확히 맞춰줘야 하거든요.

기술적으로 어떤 도전이 있었나요?

m88k 아키텍처는 몇 가지 독특한 특성이 있어서 OS 포팅을 특히 까다롭게 만들었어요.

첫 번째는 그림자 레지스터(shadow register) 메커니즘이에요. 보통 CPU가 인터럽트(외부에서 들어오는 신호, 예를 들어 키보드 입력이나 타이머)를 처리할 때, 지금 하던 작업의 상태를 어딘가에 저장해야 하잖아요. x86에서는 이걸 스택에 push하는데, m88k는 별도의 그림자 레지스터 세트로 현재 상태를 복사하는 방식이었어요. 이건 빠르다는 장점이 있지만, OS 커널 입장에서는 이 메커니즘에 맞춰서 문맥 전환(context switch) 코드를 완전히 새로 짜야 한다는 뜻이에요.

두 번째는 메모리 관리 유닛(MMU) 의 동작 방식이에요. MMU가 뭐냐면, 프로그램이 사용하는 가상 메모리 주소를 실제 물리 메모리 주소로 변환해주는 하드웨어 장치예요. 운영체제의 핵심 기능 중 하나인 가상 메모리가 이 MMU 덕분에 가능한 건데, m88k의 MMU는 당시 다른 프로세서들과는 다른 독자적인 페이지 테이블 구조를 사용했어요. 그래서 OpenBSD의 가상 메모리 서브시스템(pmap 계층이라고 부르는 부분)을 m88k에 맞게 다시 구현해야 했죠.

세 번째로 어려웠던 점은 문서와 하드웨어의 부족이에요. 이미 단종된 지 오래된 프로세서다 보니, 정확한 기술 문서를 구하기도 어렵고, 테스트할 실물 장비도 구하기 힘들었어요. 에뮬레이터를 쓸 수도 있지만, 에뮬레이터가 실제 하드웨어의 미묘한 동작을 완벽히 재현하지는 못하거든요.

이게 요즘 개발과 무슨 상관이 있을까요?

"나는 웹 개발자인데 이런 로우레벨 얘기가 왜 중요하지?"라고 생각할 수도 있어요. 하지만 최근 몇 년간 벌어진 일들을 보면, 하드웨어 아키텍처에 대한 이해가 점점 더 중요해지고 있어요.

애플이 인텔에서 자체 ARM 칩(M 시리즈)으로 전환한 게 대표적이에요. 이 과정에서 Rosetta 2라는 바이너리 번역 기술이 필요했고, 많은 개발 도구들이 ARM 네이티브 빌드를 따로 지원해야 했죠. RISC-V라는 오픈소스 아키텍처도 빠르게 성장하고 있어서, 앞으로 개발자들이 다뤄야 할 아키텍처가 더 다양해질 가능성이 높아요.

그리고 이런 포팅 경험담은 시스템 프로그래밍을 공부하는 분들에게 정말 좋은 교재가 돼요. 교과서에서 "OS는 하드웨어 추상화를 제공한다"고 한 줄로 설명하는 걸, 실제로 어떤 코드를 어떻게 짜야 하는지 구체적으로 보여주니까요. 한국에서도 임베디드 개발이나 시스템 소프트웨어 쪽 커리어를 고려하는 분들이 늘고 있는데, 이런 글을 읽어두면 면접에서도, 실무에서도 시야가 확 넓어져요.

마무리

사라진 CPU 위에 현대 OS를 올리는 작업은, 우리가 매일 쓰는 소프트웨어가 하드웨어와 어떻게 대화하는지를 가장 생생하게 보여주는 이야기예요. 여러분은 평소에 하드웨어 추상화 아래의 세계에 관심이 있으신가요? RISC-V가 본격적으로 보급되면 또 한번 이런 포팅의 시대가 올 수도 있을 것 같은데, 어떻게 생각하세요?