NVIDIA의 차세대 CPU 'Vera'의 기술 백서를 마이크로아키텍처 분석 전문 매체 Chips and Cheese가 뜯어봤는데요, 제목부터 재밌어요. 'Has a Thread Loose'는 '나사가 하나 빠졌다(has a screw loose)'라는 영어 관용구에서 나사를 스레드(thread)로 바꾼 말장난이거든요. Vera의 핵심 특징 중 하나가 바로 멀티스레딩이라서 이런 제목이 나온 건데, 백서의 스레딩 관련 설명에 고개를 갸웃하게 만드는 구석이 있다는 뉘앙스까지 담고 있어요.
Vera가 뭐길래 이렇게 주목받을까요
Vera는 NVIDIA의 차세대 AI 데이터센터 플랫폼 'Vera Rubin'의 CPU 파트예요. 암흑물질 연구로 유명한 천문학자 베라 루빈의 이름에서 따온 건데, CPU가 Vera고 GPU가 Rubin이에요. 전작인 Grace CPU는 Arm이 만들어둔 기성 설계(Neoverse V2 코어)를 가져다 쓴 물건이었는데요, Vera는 NVIDIA가 직접 설계한 커스텀 코어를 쓴다는 점이 결정적으로 달라요. 이게 왜 큰일이냐면, CPU 코어를 밑바닥부터 설계하는 건 아무 회사나 할 수 있는 일이 아니거든요. Apple이 자체 코어로 M 시리즈의 성공을 만들었고, Qualcomm도 회사를 인수해가며 자체 코어 Oryon을 확보했죠. NVIDIA까지 이 대열에 합류했다는 건, Arm 생태계가 '기성 설계를 사다 쓰는 시대'에서 '큰손들이 직접 설계하는 시대'로 넘어가고 있다는 신호예요.
SMT, 이게 뭐냐면요
Vera에서 특히 눈에 띄는 선택이 SMT(동시 멀티스레딩) 지원이에요. 이게 뭐냐면, CPU 코어 하나가 두 개의 작업 흐름(스레드)을 동시에 돌리는 기술이에요. 인텔의 '하이퍼스레딩'이 바로 이거예요. 코어 안에는 연산 장치가 여러 개 있는데 스레드 하나만 돌리면 노는 장치가 생기거든요. 그 빈틈에 다른 스레드의 일감을 끼워 넣어서 활용도를 높이는 거죠. 식당 주방에 비유하면, 요리사 한 명이 국이 끓기를 기다리는 동안 다른 주문의 재료를 써는 것과 비슷해요. 그런데 Arm 서버 CPU 진영에서 SMT는 꽤 드문 선택이에요. AWS의 Graviton도, Ampere도 안 쓰거든요. SMT 없이 코어 수를 잔뜩 늘리는 쪽이 낫다는 게 그동안의 흐름이었는데, NVIDIA는 반대로 간 거예요. 그래서 '왜, 그리고 어떻게 구현했는가'가 업계의 큰 관심사였는데, 정작 백서의 설명이 그 궁금증을 시원하게 풀어주지 못하고 오히려 아귀가 안 맞아 보이는 부분을 남겼다는 게 이번 분석의 요지예요.
백서를 비판적으로 읽는다는 것
Chips and Cheese가 좋은 매체로 꼽히는 이유가 여기 있는데요, 벤더가 발표한 수치를 받아 적는 게 아니라 직접 검증하고 앞뒤가 맞는지 따져보거든요. 사실 기술 백서는 절반은 기술 문서지만 절반은 마케팅 문서예요. 자기한테 유리한 비교 대상을 고르고, 애매한 부분은 뭉뚱그리는 일이 흔하죠. 그래서 이런 외부 분석이 생태계에 꼭 필요한 견제 장치가 돼요. 스펙시트의 숫자 하나가 실제로 무엇을 의미하는지, 어떤 조건에서 나온 값인지 되묻는 습관은 하드웨어를 직접 다루지 않는 개발자에게도 좋은 훈련이거든요. 클라우드 인스턴스를 고를 때 'vCPU'가 물리 코어인지 SMT 스레드인지에 따라 체감 성능이 달라지는 것처럼, 이런 지식은 생각보다 실무 가까이에 있어요.
한국 개발자에게는 어떤 의미일까요
AI 인프라 쪽 일을 하신다면 Vera Rubin 세대는 어차피 곧 마주칠 플랫폼이에요. 다들 GPU만 보기 쉬운데, 실제로는 CPU가 데이터를 준비해서 GPU에 쉼 없이 공급하는 지휘자 역할을 하기 때문에 CPU 병목이 전체 학습이나 추론 성능을 좌우하는 경우가 많거든요. vCPU 단위로 과금되는 클라우드 환경에서 SMT 스레드의 실효 성능을 이해하는 것도 비용 최적화와 직결되는 문제고요. 당장 하드웨어를 안 다루더라도, 이런 분석 글을 따라 읽는 것 자체가 컴퓨터 구조 공부로 꽤 훌륭해요.
정리하면, NVIDIA의 첫 커스텀 코어 CPU는 그 자체로 큰 사건이지만, 벤더의 백서는 언제나 비판적으로 읽어야 한다는 걸 보여준 분석이에요. 여러분은 벤더 발표 자료를 볼 때 어떤 부분부터 의심하면서 보시나요?
🔗 출처: Hacker News