60년째 집필 중인 컴퓨터과학의 성경, 커누스의 ‘컴퓨터 프로그래밍의 예술’

반세기를 넘긴 대작

프로그래밍 책은 보통 몇 년만 지나도 낡아버리죠. 언어가 바뀌고, 프레임워크가 갈아엎이니까요. 그런데 60년이 넘도록 여전히 “언젠가는 꼭 읽어야 할 책” 1순위로 꼽히는 책이 있어요. 도널드 커누스(Donald Knuth)가 쓴 『The Art of Computer Programming』, 줄여서 TAOCP예요. 우리말로는 “컴퓨터 프로그래밍의 예술” 정도로 옮길 수 있죠.

이 책이 대단한 건, 커누스가 1962년에 쓰기 시작해서 지금까지도 계속 쓰고 있다는 점이에요. 무려 60년 넘게 한 시리즈를 붙잡고 있는 거죠. 원래 한 권짜리 책으로 계획했는데, 쓰다 보니 내용이 너무 방대해져서 여러 권으로 쪼개졌고, 아직도 완간이 안 됐어요.

뭐가 담겨 있냐면

이 책은 특정 프로그래밍 언어를 가르치는 책이 아니에요. 대신 알고리즘(문제를 푸는 절차)과 그 밑에 깔린 수학을 아주 깊게 파고들어요. 1권은 기초 알고리즘과 자료구조, 2권은 난수와 산술 같은 수치 계산, 3권은 정렬과 검색을 다뤄요. 우리가 매일 쓰는 “데이터를 정렬한다”, “원하는 값을 빠르게 찾는다” 같은 동작들이 사실 얼마나 정교한 수학 위에 서 있는지를 밑바닥부터 증명하고 분석하죠.

재밌는 건 코드 예시를 특정 실제 언어가 아니라 커누스가 직접 만든 가상의 어셈블리 언어(MIX, 후엔 MMIX)로 쓴다는 거예요. 왜 이런 불편한 짓을 했냐면, 파이썬이나 자바 같은 언어는 세월이 지나면 사라지거나 바뀌지만 컴퓨터의 가장 밑바닥 동작 원리는 변하지 않거든요. 그 불변의 원리를 가르치려고 일부러 밑바닥 언어를 고른 거예요. 그래서 이 책은 시대를 타지 않아요.

악명 높은 난이도와 $2.56 수표

이 책은 어렵기로도 유명해요. 연습 문제 중엔 “이건 아직 아무도 못 푼 미해결 난제”라고 표시된 것도 있을 정도니까요. 그리고 유명한 일화가 하나 있는데, 커누스는 자기 책에서 오류(오타든 수학적 실수든)를 찾아내 제보하면 상금으로 2.56달러짜리 수표를 보내줬어요. 왜 하필 2.56달러냐면, 256이 16진수로 딱 100(0x100)이거든요. “16진수로 1달러”라는 개발자식 농담인 거죠. 이 수표를 받은 사람들은 돈보다 명예로 여겨서 현금화하지 않고 액자에 걸어두는 경우가 많았대요.

커누스라는 사람과 업계 맥락

커누스는 이 책만 쓴 사람이 아니에요. 우리가 논문이나 수식 문서를 예쁘게 조판할 때 쓰는 TeX(텍)라는 조판 시스템도 그가 만들었어요. 재밌는 건 이것도 TAOCP 때문에 만든 거예요. 책을 조판하는데 결과물이 마음에 안 들어서 “그럼 내가 직접 조판 프로그램을 만들겠다”며 몇 년을 쏟아부은 거죠. 완벽주의의 끝판왕인 셈이에요.

요즘은 AI한테 “코드 짜줘” 하면 몇 초 만에 결과가 나오는 시대잖아요. 이런 시대에 60년 동안 알고리즘 하나하나를 수학적으로 증명하는 책이 무슨 의미가 있나 싶을 수도 있어요. 하지만 오히려 반대예요. 도구가 코드를 대신 짜줄수록, “이 알고리즘이 왜 빠른가, 왜 정확한가”를 근본부터 이해하는 사람의 가치는 더 올라가거든요. AI가 뱉어낸 코드가 맞는지 틀린지 판단하려면 결국 밑바닥 원리를 알아야 하니까요.

한국 개발자에게

솔직히 말하면, 이 책을 1권부터 끝까지 정독하는 사람은 많지 않아요. 그럴 필요도 없고요. 이 책은 “완독하는 소설”이라기보단 “곁에 두고 필요할 때 찾아보는 사전”에 가까워요. 정렬 알고리즘을 제대로 파고들고 싶을 때, 특정 자료구조의 수학적 성질이 궁금할 때 해당 부분만 펼쳐봐도 충분해요.

주니어 개발자라면 지금 당장 이 책과 씨름할 필요는 없어요. 다만 언젠가 “나는 왜 이 코드가 동작하는지 근본부터 알고 싶다”는 갈증이 생기는 순간이 올 거예요. 그때 이 책의 존재를 기억해두면 좋아요. 실무의 프레임워크 지식은 3년이면 낡지만, 이 책이 주는 사고력은 평생을 가거든요.