닌텐도64에서 오픈월드 엔진을 만든 개발자의 도전기

1996년 하드웨어에서 오픈월드를?

오픈월드 게임이라고 하면 GTA, 젤다: 브레스 오브 더 와일드 같은 최신 타이틀이 먼저 떠오르죠. 넓은 맵을 끊김 없이 탐험하려면 당연히 고성능 하드웨어가 필요하다고 생각하기 쉬운데요, 한 개발자가 1996년에 출시된 닌텐도64(N64) 위에서 오픈월드 엔진을 직접 만들어 돌리는 영상을 공개했어요. 93.75MHz CPU에 겨우 4MB RAM(확장팩 쓰면 8MB)인 기기에서요.

이게 왜 대단하냐면, N64 시대의 게임들은 대부분 레벨 단위로 나뉘어 있었거든요. 슈퍼마리오 64를 생각해보면, 성 안의 그림으로 들어가면 로딩이 되고 하나의 스테이지가 나오잖아요. 메모리가 너무 적으니까 한 번에 전체 세계를 올릴 수 없어서 그렇게 설계한 건데, 이 개발자는 그 한계를 정면으로 돌파한 거예요.

어떻게 가능한 걸까

영상에서 소개되는 핵심 기술들을 하나씩 살펴보면 정말 흥미로운데요. 가장 핵심은 동적 스트리밍(dynamic streaming) 시스템이에요. 이게 뭐냐면, 전체 맵 데이터를 한꺼번에 메모리에 올리는 게 아니라, 플레이어의 위치와 이동 방향에 따라 필요한 영역의 데이터만 카트리지(혹은 ROM)에서 실시간으로 읽어오는 방식이에요. 현대 게임 엔진에서 쓰는 레벨 스트리밍(level streaming)이랑 개념적으로는 같은 건데, 4MB 메모리 안에서 이걸 구현한 게 놀라운 거죠.

맵을 청크(chunk)라는 작은 단위로 나누고, 플레이어 주변의 청크만 메모리에 유지하면서, 멀어지는 청크는 해제하고 가까워지는 청크는 미리 로드하는 식이에요. 마인크래프트의 청크 로딩 시스템을 떠올리면 이해하기 쉬울 거예요. 다만 마인크래프트는 기가바이트 단위 메모리를 쓸 수 있지만, N64에서는 킬로바이트 단위로 아껴가며 관리해야 하니까 최적화의 차원이 다르죠.

렌더링 쪽에서도 재미있는 기법들이 쓰여요. LOD(Level of Detail)라는 건데, 멀리 있는 오브젝트는 폴리곤 수를 확 줄인 단순한 모델로 보여주고, 가까이 다가가면 디테일한 모델로 교체하는 기술이에요. N64의 그래픽 처리 유닛인 RCP(Reality Coprocessor)가 한 프레임에 처리할 수 있는 폴리곤 수가 제한적이니까, 이런 최적화가 없으면 프레임이 뚝뚝 떨어지거든요.

또 하나 인상적인 건 메모리 관리 방식이에요. N64에는 가비지 컬렉터 같은 게 당연히 없으니까, 직접 커스텀 메모리 할당자(custom memory allocator)를 만들어서 4MB 안에서 힙 단편화(heap fragmentation) 없이 동적으로 메모리를 할당하고 해제하는 시스템을 구현했어요. 이게 뭐냐면, 메모리를 쓰고 반납하는 과정에서 빈 공간이 조각조각 나뉘어서 쓸 수 없게 되는 문제를 방지하는 건데, 임베디드 시스템 개발에서도 핵심적인 주제예요.

레트로 게임 개발 씬의 부활

최근 몇 년간 레트로 콘솔용 홈브루(homebrew) 개발 씬이 꽤 활발해지고 있어요. N64뿐 아니라 게임보이, SNES, 세가 제네시스 같은 올드 콘솔들을 위한 새로운 게임이나 엔진이 계속 나오고 있거든요. 'libdragon' 같은 N64용 오픈소스 SDK가 정비되면서 진입 장벽도 많이 낮아졌고요.

이게 단순한 향수가 아니라 기술적으로 의미 있는 이유가 있어요. 극도로 제한된 환경에서 프로그래밍을 하면, 현대 개발에서는 잘 의식하지 못하는 저수준(low-level) 개념들을 몸으로 체득할 수 있거든요. 메모리 레이아웃, 캐시 친화적 데이터 구조, 비트 단위 최적화 같은 것들이요. 이런 지식은 고성능이 필요한 분야, 예를 들어 게임 엔진, 임베디드 시스템, 시스템 프로그래밍에서 바로 써먹을 수 있어요.

한국 개발자에게 주는 시사점

당장 실무에서 N64 개발을 할 일은 없겠지만, 이 프로젝트에서 배울 수 있는 건 꽤 많아요. 첫째, 제약 조건이 창의성을 만든다는 거예요. 메모리가 무한하면 최적화를 고민할 이유가 없지만, 4MB라는 극한의 제약 안에서는 모든 바이트가 소중하니까 정말 기발한 해법이 나오게 되죠.

둘째, 여기서 쓰인 기법들, 동적 스트리밍, LOD, 커스텀 메모리 할당, 이런 것들은 현대 게임 엔진(Unreal, Unity)에서도 핵심 기술이에요. 원리를 이해하면 "왜 Unreal에서 레벨 스트리밍을 이렇게 설정하는지" 같은 맥락을 잡기가 훨씬 쉬워져요. 게임 개발에 관심 있는 분이라면 이런 저수준 프로젝트를 한 번쯤 따라 만들어보는 것도 정말 좋은 공부가 될 거예요.