Xbox 360 게임을 PC에서 돌린다고? 리컴파일레이션 기술의 놀라운 진전

에뮬레이션 말고, 리컴파일레이션이라고요?

옛날 콘솔 게임을 PC에서 즐기고 싶을 때, 보통 떠올리는 게 에뮬레이터잖아요. 에뮬레이터는 원래 콘솔의 하드웨어를 소프트웨어로 흉내 내는 방식인데요, 이게 생각보다 엄청나게 무거운 작업이에요. 원래 CPU가 처리하는 명령어 하나하나를 실시간으로 해석해서 다른 CPU가 알아듣는 말로 바꿔야 하거든요. 그래서 Xbox 360 에뮬레이션은 아직까지도 완성도가 높지 않은 편이었어요.

그런데 최근 RexGlue라는 프로젝트에서 완전히 다른 접근법으로 의미 있는 성과를 냈어요. 바로 리컴파일레이션(recompilation) 이라는 기술인데요, 이건 실시간으로 명령어를 해석하는 게 아니라, 게임의 실행 파일 자체를 미리 분석해서 PC가 바로 이해할 수 있는 코드로 변환해두는 거예요. 쉽게 비유하면, 에뮬레이션이 "통역사가 옆에서 실시간으로 통역해주는 것"이라면, 리컴파일레이션은 "책을 아예 한국어로 번역 출판하는 것"에 가까워요.

RexGlue가 하는 일, 좀 더 자세히 들여다보면

Xbox 360은 PowerPC 계열의 CPU를 사용했어요. 우리가 쓰는 PC는 x86-64 아키텍처고요. 이 두 아키텍처는 명령어 체계가 완전히 달라서, Xbox 360용으로 컴파일된 바이너리는 PC에서 그냥 돌릴 수가 없어요.

RexGlue 프로젝트는 Xbox 360 게임의 PowerPC 바이너리를 정적 분석(static analysis)하는 것에서 시작해요. 정적 분석이 뭐냐면, 프로그램을 실행하지 않고 코드 자체를 들여다보면서 "이 부분은 이런 함수고, 이런 흐름으로 실행되겠구나"를 파악하는 거예요. 이렇게 분석한 결과를 바탕으로 x86-64 아키텍처에서 동일하게 동작하는 코드를 생성해내는 거죠.

이 방식의 가장 큰 장점은 성능이에요. 에뮬레이션처럼 매 프레임마다 명령어를 해석할 필요가 없으니까, 네이티브에 가까운 속도로 실행할 수 있어요. 실제로 리컴파일레이션 방식은 닌텐도 64 게임 쪽에서 먼저 큰 성과를 냈는데요, 젤다의 전설 시간의 오카리나나 슈퍼마리오 64 같은 게임들이 이 방식으로 PC에서 네이티브급 성능으로 돌아가게 됐거든요.

다만 Xbox 360 리컴파일레이션은 N64보다 훨씬 어려운 도전이에요. Xbox 360은 멀티코어 CPU에 복잡한 GPU, 그리고 방대한 시스템 라이브러리를 갖고 있어서 분석하고 변환해야 할 양이 비교할 수 없이 많아요. RexGlue 팀이 이 복잡한 문제를 어떻게 풀어가고 있는지가 이번 인터뷰에서 공개된 건데요, 그래픽 API 변환이나 멀티스레딩 처리 같은 난제들에서 실질적인 진전이 있었다고 해요.

리컴파일레이션 vs 에뮬레이션, 업계 흐름은?

게임 보존(game preservation) 커뮤니티에서 리컴파일레이션은 요즘 가장 뜨거운 주제 중 하나예요. N64 리컴파일레이션 프로젝트들이 놀라운 결과를 보여준 이후로, 더 복잡한 콘솔들에도 이 기법을 적용하려는 시도가 이어지고 있거든요.

기존 Xbox 360 에뮬레이터로는 Xenia가 가장 유명한데요, Xenia는 전통적인 에뮬레이션 방식을 사용해요. 꽤 많은 게임이 돌아가긴 하지만, 성능 문제나 호환성 이슈가 여전히 있어요. 리컴파일레이션은 이런 한계를 근본적으로 우회할 수 있는 방법이에요.

물론 리컴파일레이션에도 한계는 있어요. 모든 게임을 자동으로 변환할 수 있는 건 아니고, 게임마다 개별적인 분석과 수정 작업이 필요한 경우가 많아요. 자가 수정 코드(self-modifying code)처럼 실행 중에 코드가 바뀌는 경우에는 정적 분석만으로는 처리가 어려울 수도 있고요. 그래서 실질적으로는 에뮬레이션과 리컴파일레이션이 상호 보완적인 관계라고 보는 게 맞아요.

개발자 관점에서 왜 흥미로운가

리컴파일레이션 기술은 단순히 "옛날 게임 돌리기"를 넘어서, 컴파일러 기술과 바이너리 분석의 최전선이에요. 이 프로젝트를 따라가다 보면 자연스럽게 CPU 아키텍처 차이, 정적 분석 기법, 코드 생성(code generation) 같은 시스템 프로그래밍의 핵심 개념들을 접할 수 있어요.

레거시 시스템 마이그레이션이라는 관점에서도 배울 게 있어요. 기업 환경에서도 오래된 시스템의 코드를 새로운 플랫폼으로 옮겨야 하는 일이 종종 있잖아요. 리컴파일레이션의 접근법은 이런 실무 문제와도 맞닿아 있어요.