수백조 원짜리 질문: 중고 GPU는 얼마일까
요즘 AI 업계에서 가장 뜨거운 재무 논쟁 하나를 소개해 드릴게요. 바로 '중고 GPU 클러스터의 가치를 아무도 모른다'는 문제인데요. 빅테크와 AI 기업들이 GPU 데이터센터에 쏟아붓는 돈이 연간 수천억 달러 규모까지 커졌는데, 정작 그 GPU들이 몇 년 뒤에 얼마의 가치를 가질지는 아무도 자신 있게 말하지 못하는 상황이거든요.
이게 왜 중요하냐면, '감가상각' 때문이에요. 감가상각이 뭐냐면, 회사가 비싼 장비를 사면 그 비용을 한 번에 처리하지 않고 장비 수명 동안 나눠서 비용으로 잡는 회계 방식이에요. 예를 들어 100억짜리 GPU를 사서 5년 쓴다고 가정하면 매년 20억씩 비용 처리하는 거죠. 그런데 여기서 '몇 년 쓴다고 가정하느냐'에 따라 회사 이익이 완전히 달라져요. 수명을 6년으로 잡으면 매년 잡히는 비용이 적어서 이익이 커 보이고, 3년으로 잡으면 이익이 확 줄어들거든요. 지금 AI 기업들의 흑자와 적자가 사실상 이 가정 하나에 달려 있다고 해도 과언이 아니에요.
왜 아무도 가격을 모를까
문제는 이 가정을 검증할 시장이 없다는 거예요. 중고차는 수십 년 치 거래 데이터가 쌓여 있어서 3년 된 아반떼가 얼마인지 바로 알 수 있잖아요. 그런데 대규모 GPU 클러스터의 중고 시장은 이제 막 생기는 중이라 거래 사례 자체가 드물어요. 게다가 클러스터는 GPU 칩만 파는 게 아니거든요. 인피니밴드 같은 초고속 네트워크 장비, 냉각 시설, 전력 인프라가 한 몸처럼 묶여 있어서, 뜯어서 팔면 가치가 뚝 떨어지고 통째로 사줄 구매자는 많지 않아요.
기술 발전 속도도 큰 변수예요. 엔비디아가 거의 매년 새 아키텍처를 내놓으면서 구세대 칩의 상대적 가치가 빠르게 떨어지고 있거든요. 실제로 H100 클라우드 렌탈 가격이 초기에 시간당 8달러를 넘던 것이 신형 칩이 풀리면서 2달러 아래까지 내려온 흐름이 이를 잘 보여줘요. 물리적으로는 멀쩡히 돌아가는 GPU라도 전력 대비 성능에서 신형에 밀리면 경제성이 사라지는 거예요. 전기료가 비싼 지역에서는 구형 GPU를 공짜로 줘도 돌리는 것보다 신형을 사는 게 낫다는 계산까지 나올 정도거든요.
닷컴 버블의 광케이블이 떠오르는 이유
업계에서는 2000년대 초 닷컴 버블 때 깔린 광케이블 이야기가 자주 나와요. 당시 통신사들이 미래 수요를 예상하고 광섬유를 엄청나게 깔았다가 버블이 터지면서 헐값에 넘어갔거든요. 다만 광케이블은 20년 넘게 쓸 수 있어서 나중에 유튜브와 넷플릭스 시대의 기반이 됐지만, GPU는 수명이 훨씬 짧다는 게 결정적 차이예요. 한편 GPU를 담보로 대출을 받아 데이터센터를 짓는 '네오클라우드' 업체들도 늘고 있는데, 담보물의 가치를 아무도 모른다면 그 대출의 리스크도 아무도 모르는 셈이 되는 거죠. 유명 투자자들이 AI 기업들의 감가상각 기간 설정이 너무 낙관적이라고 공개적으로 지적하고 나선 것도 이런 맥락이에요.
한국 개발자와 기업에게는
우리에게도 실질적인 시사점이 있어요. 첫째, GPU를 직접 살지 클라우드를 쓸지 고민하는 회사라면, 구매한 GPU의 잔존가치가 예상보다 훨씬 빨리 떨어질 수 있다는 점을 총소유비용 계산에 넣어야 해요. 둘째, 반대로 생각하면 기회이기도 해요. 최신 모델 학습에는 못 쓰는 구형 GPU라도 소규모 모델의 추론이나 파인튜닝, 연구용으로는 충분한 경우가 많아서, 중고 물량이 본격적으로 풀리면 저렴하게 실험 환경을 꾸릴 수 있게 되거든요. AI 인프라 관련 기업에 투자하고 계신 분이라면 재무제표에서 감가상각 정책을 꼭 확인해 보시고요.
정리하면, AI 붐의 회계 장부는 'GPU가 몇 년짜리 자산인가'라는 아직 검증 불가능한 가정 위에 서 있어요. 여러분 생각은 어떠세요? GPU의 실질 수명은 몇 년이라고 보시나요? 그리고 중고 GPU 시장이 본격적으로 열리면 사보실 생각이 있으신가요?
🔗 출처: Hacker News