TECH 으로 돌아가기
TECH HACKER NEWS 9분 읽기 84 READS

스택 포인터로 화면을 그린다고? 80년대 게임 개발자의 기막힌 최적화 핵

1MHz도 안 되는 CPU로 게임을 만들던 시절

요즘은 화면에 그림 몇 장 띄우는 걸 성능 문제라고 생각하는 사람이 거의 없죠. 그런데 1980년대 8비트 컴퓨터에서는 작은 그림 조각 몇 개를 화면에 복사하는 일조차 CPU 시간을 통째로 잡아먹는 큰일이었어요. 프로그래머 톰 모어텔(Tom Moertel)이 2013년에 쓴 회고 글은 바로 그 시절 이야기예요. 학생 시절 친구와 함께 탠디 컬러 컴퓨터(애칭 CoCo)용 게임을 만들면서 겪은 일인데요, 이 기계의 두뇌는 모토로라 6809라는 CPU였고 속도는 1MHz에도 못 미쳤어요. 오래된 글이지만 제약 속에서 어떻게 생각해야 하는지를 보여주는 교과서 같은 이야기라서 지금 읽어도 배울 게 많거든요.

문제: 타일 복사가 너무 느리다

게임 화면은 '타일'을 이어 붙여서 만들었어요. 이게 뭐냐면, 풀밭이나 벽 같은 작은 그림 조각을 미리 그려 두고 바둑판처럼 화면 메모리에 복사해서 맵을 구성하는 방식이에요. 화면이 바뀔 때마다 수많은 타일을 다시 복사해야 하니까, 이 복사 루틴이 게임 전체 속도를 좌우했죠.

가장 단순한 방법은 한 바이트씩 읽어서 한 바이트씩 쓰는 거예요. (아래 코드는 원리를 보여주려고 단순화한 예시예요.)

LOOP LDA ,X+ ; 타일에서 1바이트 읽기 (6사이클)
STA ,U+ ; 화면에 1바이트 쓰기 (6사이클)
DECB
BNE LOOP

읽고 쓰는 데만 바이트당 12사이클이 들고, 루프를 도는 비용까지 붙어요. 그래서 먼저 루프를 풀어 써서(언롤링) 반복 비용을 없애고, 16비트 레지스터로 두 바이트씩 옮기도록 고쳤어요. 이러면 바이트당 8사이클 정도까지 내려가는데, 그래도 부족했어요.

첫 번째 묘수: 스택 명령을 복사기로 쓰기

여기서 눈을 돌린 곳이 스택이에요. 스택은 원래 함수를 호출할 때 돌아올 주소나 레지스터 값을 잠깐 보관하는 메모리 영역인데요, 6809에는 레지스터 여러 개를 명령어 하나로 스택에 밀어 넣거나(push) 꺼내는(pull) 명령이 있어요. 그리고 이 명령이 놀랄 만큼 싸요. 기본 5사이클에 바이트당 1사이클만 더 들거든요.

게다가 6809에는 스택 포인터가 S와 U, 두 개나 있어요. 그렇다면 한쪽은 타일 데이터를, 다른 쪽은 화면 메모리를 가리키게 해 놓고 '꺼내고, 밀어 넣고'를 반복하면 어떨까요?

PULS D,X,Y ; S가 가리키는 타일에서 6바이트를 한 번에 꺼냄 (11사이클)
PSHU Y,X,D ; U가 가리키는 화면에 6바이트를 한 번에 밀어 넣음 (11사이클)

6바이트를 옮기는 데 22사이클이니까 바이트당 4사이클이 안 돼요. 처음 방식보다 세 배 넘게 빠른 셈이죠. 물건을 하나씩 손으로 나르다가 쟁반에 여섯 개씩 담아 나르기 시작한 것과 비슷해요.

그런데 타일이 깨지기 시작했다

문제는 인터럽트였어요. 인터럽트가 뭐냐면, 타이머 같은 하드웨어가 "잠깐, 이것부터 처리해 줘" 하고 CPU를 불러 세우는 신호예요. 이때 CPU는 하던 일을 기억해 두려고 레지스터 값들을 스택에 자동으로 저장하는데, 그 저장 위치가 바로 S가 가리키는 곳이에요.

그런데 지금 S는 진짜 스택이 아니라 타일 그림 한가운데를 가리키고 있잖아요? 복사 도중에 인터럽트가 걸리면 CPU가 레지스터 값 10여 바이트를 타일 데이터 위에 그대로 덮어써 버려요. 원본 그림이 망가지니까 그 뒤로는 깨진 타일이 계속 화면에 찍히는 거죠. 그렇다고 복사하는 동안 인터럽트를 꺼 두는 것도 답이 아니었어요. 게임의 다른 부분이 인터럽트에 기대고 있었거든요.

두 번째 묘수: 망가져도 되는 곳을 망가뜨리자

여기서 진짜 '핵'이 등장해요. 인터럽트가 메모리를 더럽히는 걸 막을 수 없다면, 더럽혀도 괜찮은 곳을 더럽히게 하자는 발상이에요.

방법은 두 포인터의 역할을 맞바꾸는 것이었어요. S가 타일이 아니라 화면 메모리를 가리키게 하고, 타일은 U로 읽는 거죠. 이러면 인터럽트가 걸렸을 때 쓰레기 값이 떨어지는 곳은 원본 타일이 아니라 화면 메모리가 돼요. 그리고 스택은 주소가 낮은 쪽으로 자라니까, 그리는 순서를 잘 맞춰 두면 쓰레기가 묻는 자리는 '이제 곧 그릴 차례인 영역'이 돼요. 인터럽트 처리가 끝나고 복사가 이어지면 올바른 픽셀이 그 위를 덮어쓰니까 흔적이 남지 않죠.

벽에 페인트를 칠하는데 누가 자꾸 낙서를 한다고 해 볼게요. 낙서를 막을 수 없다면, 아직 칠하지 않은 쪽에만 낙서하게 만들면 돼요. 어차피 곧 그 위를 칠할 테니까요. 원본 데이터는 한 번 망가지면 끝이지만 화면은 어차피 계속 다시 그리는 곳이라는 차이를 정확히 짚은 거예요.

다른 8비트 기계들, 그리고 요즘 시스템

스택 포인터를 데이터 복사에 끌어다 쓰는 건 이 기계만의 이야기가 아니에요. Z80 CPU를 쓴 ZX 스펙트럼이나 MSX에서도 PUSH 명령으로 화면을 빠르게 채우는 같은 계열의 기법이 쓰였어요.

재미있는 건 이 문제가 지금도 살아 있다는 거예요. x86-64 리눅스 같은 환경에는 '레드 존'이라는 규칙이 있는데요, 스택 포인터 아래 128바이트를 함수가 임시 공간으로 써도 된다는 약속이에요. 그런데 운영체제 커널은 이 기능을 끄고 컴파일해요. 인터럽트가 걸리면 CPU가 스택 포인터 아래에 값을 밀어 넣어서 그 공간을 망가뜨릴 수 있거든요. 40년 전 타일이 깨지던 것과 같은 원리죠.

한국 개발자에게 주는 시사점

6809 어셈블리를 실무에서 쓸 일은 아마 없을 거예요. 그래도 가져갈 사고방식은 분명해요. 첫째는 비용을 숫자로 세는 습관이에요. 글쓴이는 명령어마다 사이클 수를 따져서 어디가 비싼지 정확히 알고 있었어요. 오늘날로 치면 감으로 최적화하지 않고 프로파일러부터 돌리는 태도죠. 둘째는 도구를 원래 용도 밖에서 바라보는 눈이에요. 스택 명령을 '가장 싼 메모리 이동 수단'으로 다시 본 것처럼요.

셋째가 제일 쓸모 있는데요, 없앨 수 없는 문제는 터져도 괜찮은 자리로 옮긴다는 생각이에요. 서버 개발에서 장애를 완전히 막기 어려우니 재시도해도 결과가 같도록(멱등하게) 설계하는 것, 캐시처럼 날아가도 다시 만들 수 있는 데이터와 원본 데이터를 구분하는 것이 모두 같은 맥락이에요. 임베디드나 펌웨어를 하는 분이라면 더 직접적이에요. 인터럽트 핸들러가 어떤 스택을 쓰는지, 내 코드가 인터럽트에 안전한지는 지금도 매일 마주치는 질문이니까요.

마무리

한 줄로 정리하면 이래요. 막을 수 없는 문제라면, 문제가 생겨도 괜찮은 곳에서 생기게 만들면 된다. 여러분이 본 가장 기발한 최적화나 "이게 되네?" 싶었던 핵은 무엇이었나요? 그리고 메모리와 CPU가 넉넉한 요즘에도 이런 식의 사고가 여전히 실무에서 통한다고 생각하시나요?


🔗 출처: Hacker News

SOURCE · HACKER NEWS
원문 전체 보기 → https://blog.moertel.com/posts/2013-12-14-great-old-timey-ga...
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...