무슨 일이 있었냐면요
이코노미스트(The Economist)에 “AI 연산력(compute)은 새로운 석유이고, 그에 맞는 새로운 시장이 필요하다”는 취지의 분석이 실렸어요. 지금 AI 산업에서 GPU 연산 시간은 석유처럼 거의 모든 활동의 원료가 됐어요. 그런데 정작 이걸 사고파는 방식은 아직 원시적이라는 게 문제의식이에요.
석유를 떠올려 보세요. 원유는 현물 시장에서 거래되고, 선물 계약으로 미래 가격을 미리 정해 둘 수 있어요. 브렌트유나 WTI 같은 기준 가격이 있어서 누구나 지금 시세를 알 수 있고요. 그런데 GPU 연산은 대부분 클라우드 회사나 데이터센터와 개별 협상으로 몇 년짜리 계약을 맺어요. 가격도 불투명하고, 남는 용량을 되팔기도 어려워요. 이 차이를 메우자는 게 핵심 주장이에요.
지금 GPU 연산은 어떻게 거래되고 있나
1. 장기 계약 중심의 시장
AI 회사들은 보통 두 종류의 업체와 1~3년 이상 계약을 맺어요. 하나는 AWS, 마이크로소프트 애저, 구글 클라우드 같은 초대형 클라우드(하이퍼스케일러)예요. 다른 하나는 CoreWeave, Lambda, Nebius처럼 GPU 임대에 특화된 신흥 클라우드, 이른바 네오클라우드예요. 문제는 AI 수요가 들쭉날쭉하다는 거예요. 모델을 학습할 때는 GPU가 수천 장 필요하다가, 학습이 끝나면 갑자기 남아돌거든요. 헬스장 연간 회원권을 끊고 석 달만 다니는 상황과 비슷해요.
2. 가격 변동성이 크다
H100 GPU의 시간당 임대료는 크게 출렁였어요. 공급이 가장 부족하던 때와 공급이 풀린 뒤를 비교하면 몇 배 차이가 날 정도예요. 블랙웰 같은 새 세대 칩이 나올 때마다 구형 칩 가격도 크게 떨어지고요. 이런 변동은 GPU를 빌려 쓰는 쪽에도, 빚을 내서 수조 원짜리 데이터센터를 짓는 쪽에도 큰 위험이에요.
3. 원자재와 다른 점
다만 연산력은 석유와 결정적으로 다른 점이 있어요. 저장이 안 된다는 거예요. 오늘 안 쓴 GPU 시간은 그냥 사라져요. 그래서 석유보다는 전력이나 항공기 좌석에 더 가까워요.
표준화하기도 어려워요. H100 한 시간과 B200 한 시간은 성능이 다르고, 같은 칩이라도 GPU끼리 연결하는 네트워크, 위치, 안정성에 따라 가치가 달라지거든요. 원자재 시장이 굴러가려면 규격화된 상품이 있어야 하는데, 그걸 만드는 것부터가 숙제인 셈이에요.
업계 맥락: 이미 시작된 실험들
이런 움직임은 이미 조금씩 나타나고 있어요. San Francisco Compute Company처럼 GPU 연산을 단기로 사고팔 수 있는 연산 거래소 스타트업들이 나왔어요. GPU 임대료를 지수로 만들어 금융 정보 단말기에 올리는 시도도 생겼고요. 연산력 선물·파생상품을 만들려는 움직임도 있어요.
금융 쪽에서는 GPU가 담보 자산이 되고 있어요. 네오클라우드들이 GPU를 담보로 대규모 대출을 받으면서, 월가에서는 “GPU 감가상각 기간을 몇 년으로 잡아야 하나?”가 뜨거운 논쟁거리가 됐죠. 6년으로 잡느냐 3년으로 잡느냐에 따라 기업 이익이 크게 달라지니까요. 표준화된 시장 가격이 생기면 이 논쟁에도 객관적인 기준이 생겨요.
한국 개발자에게 주는 시사점
한국에서도 GPU는 곧 경쟁력이에요. 정부가 국가 차원에서 GPU 확보에 나섰고, 대기업과 플랫폼 기업들도 대규모 GPU 도입을 발표했죠. 하지만 스타트업이나 개인 개발자에게는 여전히 GPU를 어디서 얼마에 구하느냐가 가장 현실적인 고민이에요.
실무 팁을 몇 가지 드릴게요.
- 가격을 비교하는 습관을 들이세요. 같은 GPU라도 클라우드마다, 시기마다 가격 차이가 커요. 스팟·온디맨드·예약 인스턴스의 차이를 알아 두세요. 중간에 끊겨도 다시 이어갈 수 있는 학습 작업이라면 저렴한 스팟 자원을 쓰는 게 좋아요.
- 장기 계약은 신중하게 맺으세요. 1~2년 뒤 신형 칩이 나오면 지금 계약한 가격이 비싸게 느껴질 수 있어요. 앞으로 얼마나 쓸지 확실하지 않다면 짧은 계약이나 유연한 옵션부터 고려하세요.
- 효율 최적화가 곧 돈이에요. 양자화(모델의 숫자 정밀도를 낮춰 가볍게 만드는 기법), 배치 처리, 추론 최적화는 연산 시간을 줄여 주고, 그게 그대로 비용 절감으로 이어져요. 연산이 원자재가 될수록 그걸 아껴 쓰는 기술의 가치도 올라가요.
마무리
한 줄 정리: GPU 연산이 석유처럼 경제의 원료가 되면서 투명한 가격과 거래 시장이 필요하다는 주장이 나오고 있어요. 다만 저장이 안 되고 표준화가 어렵다는 점이 큰 숙제예요.
여러분 팀은 GPU를 어떻게 구하고 있나요? GPU 연산 선물 시장이 생긴다면, 개발 조직이 인프라 예산을 짜는 방식도 달라질까요?
🔗 출처: Hacker News