레트로 컴퓨팅은 단순한 향수가 아니라, 하드웨어 제약이 코드 설계를 어떻게 규정하는지를 압축적으로 보여주는 교재다. 한 개발자가 Commodore VIC-20용 8×8 그래픽 캐릭터를 만들다가 남긴 작업 기록은, 전용 비트 연산자가 없던 환경에서 시프트를 어떻게 구현했는지, 그리고 그 과정에서 어떤 함정을 밟았는지를 차례로 드러낸다. 요지는 익숙하면서도 낯설다. 비트를 왼쪽으로 한 칸 밀면 값이 2배가 되고, 오른쪽으로 한 칸 밀면 절반이 된다. C라면 시프트 연산자 한 줄로 끝날 일을, BASIC에서는 곱셈과 나눗셈으로 풀어야 한다.
발단은 사소했다. 2칸짜리 캐릭터 블록 안에서 각 오프셋 위치마다 하나씩, 밀려 있는 프레임들이 필요했던 것이다. CBM prg Studio 같은 도구로 하나씩 손으로 찍어도 됐지만, 저자는 캐릭터 하나만 디자인하고 나머지 시프트된 프레임은 프로그램이 생성하게 만들고 싶어 했다. '게으르고 싶어서 컴퓨터에게 일을 시킨다'는 동기는, 실무에서 반복 작업을 자동화할 때의 심리와 다르지 않다.
연산자가 없으면 산술로 흉내 낸다
먼저 바이트를 비트 패턴으로 출력하는 루틴이 필요했다. 0~255만 다루도록 고정된 서브루틴은 각 비트를 검사하는 수학 연산 탓에 한 자리씩 찍히는 게 눈에 보일 만큼 느렸다. 해법은 전형적인 트레이드오프다. 2의 거듭제곱(1, 2, 4, 8, 16, 32, 64, 128)을 매번 계산하는 대신 배열에 미리 넣어두는 것이다. 이 작은 캐싱만으로 출력이 눈에 보이지 않을 정도로 빨라졌다. 값을 1에서 시작해 여덟 번 2를 곱하면 비트가 왼쪽으로 밀려 나가고, 128에서 시작해 2로 나누면 오른쪽으로 밀린다.
흥미로운 전환은 '밀려 떨어지는 비트'를 두 번째 바이트로 옮겨 담으려 할 때 일어났다. 저자는 AND로 떨어질 비트를 골라내 다른 변수에 옮기고 다시 정렬하는 복잡한 방식을 한참 고민하다가, BASIC에서 그냥 16비트 값을 쓰면 된다는 당연한 사실을 깨닫는다. 8비트를 왼쪽으로 8칸 미는 것은 곧 256을 곱하는 것이고, 반대로 추출하는 것은 256으로 나누는 것이다. PEEK가 한 번에 한 바이트만 읽기 때문에 16비트 주소를 얻으려면 두 번 읽어 합쳐야 하는데, 이때 계산식이 기종마다 달라진다. 6809 기반 CoCo는 상위 바이트가 앞에 오는 빅엔디언이라 앞 주소에 256을 곱하지만, 6502 기반 VIC-20은 바이트 순서가 반대라 뒤 주소에 256을 곱해 더한다. 수십 년 전 PEEK 공식이 왜 기종마다 달랐는지에 대한 답이 바로 엔디언이다.
관성을 의심하자 드러난 성능 차이
가장 실무적인 대목은 벤치마크다. 16비트에서 하위 바이트를 꺼낼 때, 저자는 1980년대부터 써온 전통적 BASIC 방식(INT와 나눗셈·뺄셈·곱셈 조합)과 C에서 가져온 방식(나눗셈과 AND)을 직접 비교했다. 결과는 각각 1498과 1143. AND를 쓴 쪽이 더 빨랐다. 오래 익숙했던 패턴이 반드시 최적은 아니라는, 흔하지만 자주 잊히는 교훈이다. 다만 이 우위에는 조건이 붙는다. AND·OR·NOT은 16비트 부호 있는 정수, 즉 -32768부터 32767까지에서만 동작한다. 저자가 출력 루틴을 16비트로 확장하려고 범위를 0~15로 늘렸다가 ?FC ERROR를 만난 것도 이 때문이다. 최상위 비트는 부호에 쓰이므로 손쉽게 다룰 수 있는 건 15비트뿐이었고, 결국 16비트 값을 두 바이트로 쪼개 각각 출력하는 우회로를 택해야 했다. 'true'가 왜 -1이고 'false'가 0인지도 같은 원리에서 나온다. 모든 비트가 켜진 값과 꺼진 값이어야 비트 연산이 불리언 맥락에서 그대로 성립하기 때문이다.
커뮤니티가 덧붙인 미시 최적화들은 이 환경의 성격을 더 선명하게 보여준다. 2를 곱하는 Z=Z*2보다 Z=Z+Z가 약 20% 빠르고, 미리 정의한 변수에 2나 0.5를 담아 쓰면 더 낫다는 지적이 나왔다. 인터프리터가 상수를 만날 때마다 숫자를 파싱하고 부동소수점으로 변환하는 비용이 크기 때문이며, 그래서 2로 나누기보다 0.5를 곱하는 편이 유리하다. 나눗셈 뒤에는 Color BASIC에 정수 나눗셈이 없어 INT()로 소수부를 잘라야 하지만, POKE나 MID$·LEFT$처럼 정수를 기대하는 명령에 값을 넘길 때는 인터프리터가 암묵적으로 변환해주므로 생략할 수 있다.
이 기록의 가치는 완성된 시프트 루틴 자체보다, 느슨한 가정을 하나씩 검증하며 나아간 사고 과정에 있다. 전용 연산자가 없는 환경에서는 산술이 곧 비트 조작이고, 성능은 상수 파싱 같은 인터프리터의 내부 동작까지 내려가야 설명된다. 추상화 계층이 얇을수록 개발자는 기계의 실제 동작을 직시하게 되며, 바로 그 점이 오늘날 고수준 언어에만 익숙한 실무자에게도 레트로 코드가 여전히 읽을 가치를 갖는 이유다.