세레브라스 CS-4, GPU 수백 개를 웨이퍼 한 장으로 대체하려는 시도

AI 추론 수요가 폭증하면서 데이터센터 사업자들은 GPU를 수백, 수천 장씩 늘리는 방식이 언제까지 지속 가능한지 고민하고 있다. 세레브라스가 새로 공개한 CS-4는 이 문제에 정면으로 답하는 하드웨어다. 이 회사는 오래전부터 GPU 여러 장을 쓰는 대신 웨이퍼 한 장을 통째로 프로세서로 만드는 '웨이퍼 스케일' 접근을 밀어붙여 왔고, CS-4는 그 계보의 최신 세대다. 회사는 CS-4가 GPU 시스템 대비 최대 30배 빠른 추론 성능을 낸다고 주장하며, 이를 '프런티어 AI를 위한 아키텍처'로 규정한다.

웨이퍼 한 장이 만드는 속도

CS-4의 연산 코어는 WSE-Turbo다. 세레브라스는 이 칩을 얹은 CS-4가 프로덕션 환경에서 이용 가능한 가장 빠른 추론 속도라는 기록을 세웠다고 설명한다. 웨이퍼 한 장당 이전 세대의 최대 2배 속도를 내며, 시스템 전체로는 GPU 시스템보다 토큰을 최대 30배 빠르게 생성한다는 것이 핵심 수치다. 단순히 처리량만 끌어올린 것이 아니라, 세레브라스는 '추론 파레토 프런티어'를 옮겼다고 표현한다. 즉 처리량과 응답 지연(상호작용성)이라는 두 축을 동시에 개선했다는 의미로, 직전 세대인 CS-3 대비 와트당 처리량이 최대 10배라는 전력 효율 수치를 함께 내세운다.

특히 눈에 띄는 대목은 초거대 모델에서의 응답성이다. CS-4는 웨이퍼 간 인터커넥트 지연을 2마이크로초 수준까지 낮췄고, 이를 통해 10조 파라미터를 넘는 모델에서도 초당 1,000개 이상의 토큰을 생성하며 대화형 디코드 성능을 유지한다고 밝혔다. 모델 크기가 커질수록 여러 칩에 걸쳐 데이터를 주고받는 통신 지연이 병목이 되는데, 웨이퍼 간 통신을 스위치 없이 직접 연결해 지연을 극단적으로 줄인 점이 이 성능의 배경이다.

서버를 다시 설계한 넥서스 아키텍처

CS-4는 세레브라스가 '넥서스 플랫폼 아키텍처'라 부르는 새 설계의 첫 구현이다. 이 구조는 컴퓨트, 전력, I/O 세 요소를 모듈로 분리한 것이 특징이다. 회사는 서버라는 개념 자체를 다시 그렸다고 표현하는데, 그 결과물이 '웨이퍼 스케일 백팩'이다. 웨이퍼와 전력 변환, 직접 액체 냉각, 고속 I/O, 제어 전자장치를 하나의 3D 패키지로 접어 넣어 부품 수를 50% 줄였다. 부품이 적다는 것은 제조가 단순해지고 배치 시간이 단축된다는 뜻으로, 세레브라스는 배치 소요 시간을 며칠 단위에서 몇 시간 단위로 줄였다고 설명한다.

전력 설계도 흥미롭다. 일반적인 GPU 보드에서는 전력 공급 지점이 프로세서로부터 약 50mm 떨어져 있는데, CS-4는 이 거리를 0.5mm까지 좁혔다. 약 100배 가까운 셈이다. 보드 단계에서 새어나가는 전력 손실을 거의 없앤 덕분에 WSE-3T에 두 배의 전력을 공급할 수 있고, 이는 더 높은 동작 주파수와 더 빠른 토큰 생성으로 이어진다. 여기에 새로운 프로그래머블 I/O 서브시스템이 I/O 대역폭을 두 배로 늘리고 지연을 줄인다. 웨이퍼 I/O 모듈은 랙 내부는 물론 랙을 넘어서도 스위치 없이 웨이퍼를 연결해, 수십조 파라미터급 모델의 상호작용성을 뒷받침한다.

배치와 운영 관점의 의미

실무자 입장에서 CS-4에서 주목할 만한 부분은 순수 성능 수치보다 배치 구조다. 세레브라스는 안정적인 전력·냉각·네트워크 계층을 모듈형 컴퓨트와 분리했다. '파워랙'을 먼저 설치해 시설 검증까지 마쳐 둔 뒤, 나중에 도착한 컴퓨트 백팩을 밀어 넣어 전력·냉각·데이터에 연결하는 방식이다. 이렇게 하면 배치 시간이 단축될 뿐 아니라 유지보수와 향후 업그레이드도 단순해진다. 하이퍼스케일 데이터센터에서 하드웨어를 세대별로 교체해야 하는 운영자에게는 성능 자체만큼이나 중요한 설계 결정이다.

다만 이 정보는 모두 세레브라스가 제품을 소개하며 제시한 자체 수치라는 점을 감안해야 한다. '최대 30배'나 '와트당 10배' 같은 표현은 특정 조건에서의 비교값일 가능성이 높고, 어떤 GPU 시스템과 어떤 모델·워크로드를 기준으로 삼았는지는 이 자료만으로는 확인하기 어렵다. 또 WSE-Turbo와 WSE-3T처럼 칩 명칭이 혼재되어 있어 정확한 제품 구성은 추가 확인이 필요하다. 웨이퍼 스케일 방식은 조달 경로가 범용 GPU와 크게 다르고 도입 사례도 제한적이라는 현실적 제약도 있다. 그럼에도 초거대 모델의 추론 지연을 통신 구조 차원에서 줄이고 서버를 모듈 단위로 재설계했다는 접근은, 자체 인프라 확장을 검토하는 국내 조직이 GPU 일변도의 대안을 가늠할 때 참고할 만한 방향을 보여준다.