내 손 안의 제타플롭스, 과연 가능할까? — geohot의 컴퓨팅 미래 전망

제타플롭스가 뭔데?

컴퓨팅 파워를 얘기할 때 흔히 쓰는 단위가 있어요. FLOPS(Floating Point Operations Per Second), 즉 1초에 소수점 연산을 몇 번 할 수 있느냐를 나타내는 건데요. 킬로, 메가, 기가, 테라, 페타, 엑사... 이렇게 올라가면 그 다음이 바로 제타(Zetta)예요. 1 제타플롭스는 10의 21승, 그러니까 1,000 엑사플롭스에 해당해요.

감이 안 잡히시죠? 현재 세계에서 가장 빠른 슈퍼컴퓨터인 프론티어(Frontier)가 약 1.2 엑사플롭스예요. 제타플롭스는 이런 슈퍼컴퓨터를 약 1,000대 합친 것과 같은 연산 능력이에요. 이걸 개인이 소유할 수 있을까? tinygrad의 창시자이자 comma.ai의 설립자인 조지 호츠(George Hotz, geohot)가 바로 이 질문을 던졌어요.

geohot의 계산법

geohot은 단순한 공상이 아니라 꽤 구체적인 숫자로 접근해요. 그의 논리를 따라가 볼게요.

먼저 현재 기준으로 가장 가성비 좋은 AI 연산 하드웨어의 가격 추세를 보면, GPU 성능 대비 가격은 매년 꾸준히 떨어지고 있어요. 무어의 법칙이 순수 CPU에서는 둔화됐지만, AI 가속기 시장에서는 여전히 비슷한 속도로 성능 대비 가격이 개선되고 있거든요. NVIDIA의 GPU 세대별 FLOPS/달러를 추적해보면 이 추세가 명확하게 보여요.

geohot은 이 추세가 계속된다고 가정하고, 특정 시점에 제타플롭스급 연산 능력을 개인이 감당할 수 있는 가격(예를 들어 수십만 달러)에 구매할 수 있게 되는 날이 올 수 있다고 분석해요. 물론 여기에는 몇 가지 전제 조건이 붙어요. 전력 효율이 지금처럼 개선되어야 하고, 메모리 대역폭 병목이 해소되어야 하며, 칩 제조 공정이 계속 발전해야 해요.

현실적인 장벽들

하지만 제타플롭스를 개인이 소유하는 것에는 단순한 칩 가격 이상의 문제가 있어요.

전력 문제가 가장 큰 벽이에요. 현재 엑사플롭스급 슈퍼컴퓨터가 약 20~30메가와트를 소비해요. 아파트 단지 하나가 쓰는 전력과 맞먹는 수준이죠. 제타플롭스면 이론적으로 그 1,000배... 물론 효율이 개선되겠지만, 전력 문제는 물리적 한계와 직결돼요.

발열과 냉각도 빼놓을 수 없어요. 연산을 하면 열이 나고, 그 열을 식혀야 하는데, 이 냉각 시스템 자체가 엄청난 비용과 공간을 차지해요. 데이터센터급 수냉 시스템이 필요할 수 있어요.

메모리 대역폭은 또 다른 병목이에요. 아무리 연산 유닛이 빨라도 데이터를 빠르게 공급하지 못하면 소용이 없거든요. 이건 마치 고속도로 위에 슈퍼카를 올려놨는데 연료를 주유소에서 양동이로 가져오는 것과 비슷해요.

업계의 현재 방향성

이 주제가 흥미로운 건 실제로 업계가 이 방향으로 움직이고 있기 때문이에요. NVIDIA의 B200, AMD의 MI300X, 구글의 TPU v5p 등 AI 가속기의 성능은 세대마다 크게 뛰고 있어요. 여기에 Cerebras의 웨이퍼 스케일 칩이나 Groq의 LPU 같은 혁신적인 접근도 나오고 있죠.

특히 geohot 본인이 만들고 있는 tinygrad와 tinybox 프로젝트가 이 맥락에서 중요해요. tinybox는 개인이 구매할 수 있는 소형 AI 컴퓨팅 박스로, 대형 클라우드에 의존하지 않고 자체 연산 능력을 갖추자는 철학을 담고 있거든요. "컴퓨팅의 민주화"라는 관점에서 보면, 제타플롭스를 개인이 소유하겠다는 꿈은 이 철학의 극단적인 연장선이에요.

한국 개발자에게 주는 시사점

이 글은 당장 실무에 적용할 기술은 아니지만, 컴퓨팅 비용의 장기 추세를 이해하는 데 도움을 줘요. AI 모델 학습 비용이 매년 떨어지고 있고, 이 추세가 계속되면 지금은 대기업만 할 수 있는 대규모 모델 학습을 중소 규모 팀에서도 할 수 있게 될 거예요. 국내 AI 스타트업들에게는 희소식이죠.

또한 tinygrad 같은 경량 ML 프레임워크에 관심을 가져볼 만해요. PyTorch나 TensorFlow 대비 코드베이스가 작고 이해하기 쉬워서, ML 시스템의 내부 동작을 공부하기에 정말 좋은 교재거든요.