롤러코스터 타이쿤의 최적화 기법, 어셈블리로 작성된 전설의 코드베이스

게임 하나를 통째로 어셈블리로 만든 사람

1999년에 출시된 롤러코스터 타이쿤(RollerCoaster Tycoon)은 놀이공원 경영 시뮬레이션 게임의 대명사입니다. 수백 명의 방문객이 동시에 움직이고, 롤러코스터의 물리 시뮬레이션이 실시간으로 돌아가고, 공원 전체의 경제 시스템이 돌아가는 복잡한 게임이 당시의 저사양 PC에서 부드럽게 실행되었다는 것 자체가 놀라운 일이었습니다. 그 비결은 개발자 크리스 소여(Chris Sawyer)가 게임의 99%를 x86 어셈블리어로 직접 작성했다는 데 있습니다.

왜 어셈블리인가

어셈블리어로 게임을 만든다는 것은 오늘날의 관점에서는 상상하기 어려운 일입니다. 현대 게임 개발에서는 Unity, Unreal Engine 같은 엔진 위에서 C#이나 C++로 개발하는 것이 일반적이고, 어셈블리어를 직접 다루는 경우는 극히 드뭅니다. 하지만 1990년대 후반의 하드웨어 환경을 이해하면 이 선택이 합리적이었음을 알 수 있습니다.

당시 일반적인 PC는 펜티엄 프로세서에 32~64MB RAM을 탑재하고 있었습니다. 이 환경에서 수백 개의 게임 객체를 실시간으로 시뮬레이션하려면 모든 CPU 사이클이 소중했습니다. C 컴파일러의 최적화 수준이 지금처럼 성숙하지 않았던 시절, 어셈블리로 직접 작성하면 컴파일러가 놓치는 최적화를 수동으로 적용할 수 있었습니다.

핵심 최적화 기법들

소여가 사용한 최적화 기법들은 현대의 성능 엔지니어링 관점에서도 교과서적입니다.

타일 기반 업데이트 시스템이 핵심 중 하나입니다. 공원 전체를 매 프레임마다 업데이트하는 대신, 화면에 보이는 타일과 그 주변만 우선 처리하고, 보이지 않는 영역은 낮은 빈도로 업데이트합니다. 이것은 오늘날의 LOD(Level of Detail) 시스템이나 오클루전 컬링(occlusion culling)과 같은 맥락의 최적화입니다.

고정소수점 연산도 중요한 기법이었습니다. 부동소수점 연산이 비싸던 시절, 정수 연산으로 소수점 계산을 시뮬레이션하는 고정소수점 방식을 사용했습니다. 물리 시뮬레이션이나 경제 시스템에서 충분한 정밀도를 유지하면서도 연산 속도를 확보할 수 있었습니다.

메모리 레이아웃 최적화도 돋보입니다. 데이터를 CPU 캐시에 친화적인 구조로 배치하여 캐시 미스를 최소화했습니다. 이것은 현대의 데이터 지향 설계(Data-Oriented Design)나 ECS(Entity Component System) 아키텍처의 핵심 원리와 정확히 같은 개념입니다. 25년 전에 이미 이런 최적화를 의식적으로 적용했다는 것이 놀랍습니다.

스프라이트 렌더링에서도 비트 단위의 최적화가 적용되었습니다. 투명 영역을 건너뛰는 커스텀 블리팅(blitting) 루틴을 어셈블리로 구현하여, 당시의 2D 그래픽 한계 내에서 최대한의 성능을 뽑아냈습니다.

현대 개발에 주는 교훈

물론 오늘날 어셈블리로 게임을 만드는 것은 비효율적이고 비현실적입니다. 하지만 소여의 접근 방식에서 배울 수 있는 원칙들은 여전히 유효합니다.

첫째, 제약 조건을 이해하고 그 안에서 최적화하라는 것입니다. 하드웨어의 한계를 정확히 파악하고, 그 한계 내에서 최선의 성능을 끌어내는 접근은 시대를 초월합니다. 오늘날에도 모바일 환경, 임베디드 시스템, 또는 비용 최적화가 필요한 클라우드 환경에서 같은 사고방식이 필요합니다.

둘째, 불필요한 작업을 하지 않는 것이 최고의 최적화라는 점입니다. 보이지 않는 영역을 업데이트하지 않는 것, 변경되지 않은 타일을 다시 그리지 않는 것 같은 접근은 캐싱, lazy evaluation, incremental computation 등 현대의 다양한 최적화 기법의 근본 원리이기도 합니다.

셋째, 데이터 구조가 성능을 결정한다는 것입니다. 알고리즘의 시간 복잡도도 중요하지만, 실제 하드웨어에서의 성능은 데이터가 메모리에 어떻게 배치되어 있느냐에 크게 좌우됩니다. 이것은 현대의 고성능 시스템에서도 동일하게 적용되는 원칙입니다.

정리

롤러코스터 타이쿤은 극한의 최적화가 어떤 결과를 만들어낼 수 있는지를 보여주는 전설적인 사례입니다. 25년이 지난 지금 다시 봐도 그 기법들이 현대적 성능 엔지니어링 원칙과 맞닿아 있다는 점이 인상적입니다. 여러분이 최근에 적용했던 가장 효과적인 성능 최적화 기법은 무엇이었나요?