AI 데이터센터 속 숨은 주역, DAC 케이블 이야기 — 광케이블보다 빠르고 싸다고?

서버 뒷면의 두꺼운 검은 케이블, 정체가 뭘까

데이터센터 사진을 보면 서버 랙 뒷면이 마치 스파게티처럼 케이블로 가득 차 있는 모습을 보셨을 거예요. 그중에서 유난히 굵고 뻣뻣해 보이는 검은 케이블이 있는데, 이게 바로 DAC(Direct Attach Copper) 케이블이에요. 우리말로 풀면 "직접 연결형 구리 케이블"인데, 요즘 AI 학습용 GPU 클러스터가 폭증하면서 이 케이블이 갑자기 업계의 핵심 부품으로 떠올랐어요.

왜 지금 주목해야 하냐면, NVIDIA의 H100, H200, B200 같은 GPU들이 서로 묶여서 하나의 거대한 컴퓨터처럼 동작하려면 GPU 간 통신이 엄청나게 빨라야 하거든요. 그 통신을 담당하는 게 InfiniBand나 400/800GbE 같은 초고속 네트워크인데, 그 신호를 실제로 옮기는 물리적 매체 중 가장 많이 쓰이는 게 DAC예요.

DAC가 정확히 뭐냐면

쉽게 설명하면, 양쪽 끝에 트랜시버(transceiver, 송수신기)가 이미 박혀 있는 구리선이에요. 일반적인 광케이블은 케이블과 트랜시버가 분리돼 있어요. 광케이블 끝에 따로 산 SFP 모듈을 꽂고, 그걸 스위치 포트에 끼우는 식이죠. 반면 DAC는 케이블 양 끝에 SFP+, QSFP, OSFP 같은 커넥터가 이미 일체형으로 붙어 있어요. 그냥 스위치 포트에 양쪽을 꽂으면 끝이에요.

내부는 동축 구리선이에요. 광케이블이 빛(레이저)으로 신호를 보내는 반면, DAC는 그냥 옛날부터 쓰던 전기 신호로 보내요. "어, 그럼 느린 거 아니야?"라고 생각하실 수 있는데, 짧은 거리에서는 오히려 광보다 유리한 점이 많아요.

왜 광케이블 대신 구리를 쓸까

첫째는 가격이에요. 광 트랜시버 한 개가 400G 기준으로 수십만 원에서 백만 원을 넘기도 해요. 양쪽에 두 개씩 필요하니까 단순 계산으로도 비싸죠. 반면 DAC는 케이블 전체 가격이 광 트랜시버 한 개보다 싼 경우가 많아요. 데이터센터 한 곳에 GPU 서버 수천 대가 들어간다고 생각하면, 이 차이가 수십억 원으로 벌어져요.

둘째는 전력 소비예요. 광 트랜시버는 안에 레이저 다이오드와 DSP(디지털 신호 처리 칩)가 들어가 있어서 포트당 5~15W씩 먹어요. DAC는 전기 신호를 그냥 보내기만 하니까 거의 전력을 안 써요(passive DAC 기준 0W에 가까움). GPU 서버 한 대에 네트워크 포트가 8~10개씩 달리는 요즘, 이 차이는 어마어마해요. 데이터센터 전체 전력 예산에서 네트워크 부분만 수십 퍼센트를 아낄 수 있거든요.

셋째는 지연 시간(latency)이에요. 광 트랜시버는 전기 → 빛 → 전기 변환을 거치기 때문에 나노초 단위의 지연이 추가돼요. DAC는 변환 없이 전기 그대로 가니까 더 빨라요. AI 학습에서 GPU들이 한 스텝마다 서로 데이터를 주고받는 "All-Reduce" 같은 연산을 할 때, 이 작은 지연들이 쌓이면 전체 학습 시간이 몇 퍼센트씩 차이 나요.

단점도 있어요

가장 큰 약점은 거리 제한이에요. Passive DAC는 보통 3~5미터까지만 안정적으로 동작해요. Active DAC라고 신호 증폭기를 넣은 버전도 7~10미터 정도가 한계예요. 그 이상은 신호가 너무 약해져서 못 써요. 그래서 같은 랙 안이나 옆 랙끼리 연결할 때는 DAC, 랙이 멀리 떨어져 있으면 광케이블, 이런 식으로 섞어서 써요.

또 두껍고 무거워요. 800G DAC는 손가락 굵기에 가깝고, 잘 안 휘어요. 랙 뒷면이 좁은데 이걸 수십 가닥 깔다 보면 케이블 관리가 악몽이에요. 그래서 요즘은 "AEC(Active Electrical Cable)"라는 변형도 나왔는데, 신호 처리 칩을 넣어서 더 얇고 긴 거리를 지원하는 방향으로 진화하고 있어요.

업계 흐름 속에서 보면

NVIDIA의 GB200 NVL72 같은 최신 시스템은 72개 GPU를 한 랙에 욱여넣고, 그 사이를 NVLink로 연결해요. 이때 랙 내부 연결은 거의 다 DAC나 그 변형이에요. 광까지 가기엔 거리도 짧고 전력 예산도 모자라거든요. Meta, Google, Microsoft가 자체 AI 인프라를 구축할 때도 이 비중이 점점 커지고 있어요.

반대편엔 공동 패키지 광학(CPO, Co-Packaged Optics)이라는 차세대 기술이 있어요. 스위치 칩 바로 옆에 광 엔진을 붙여서 전력과 지연을 줄이는 방식인데, 아직 상용화 초기예요. 그래서 향후 5년 정도는 DAC + 광케이블 혼합이 데이터센터의 표준 구성으로 갈 거라는 게 업계 전망이에요.

한국 개발자에게는

직접 케이블을 만질 일은 거의 없겠지만, 클라우드 비용을 다루는 분이라면 알아두면 좋아요. AWS, GCP, NCP의 GPU 인스턴스 가격이 비싼 이유 중 하나가 바로 이런 네트워크 인프라 비용이거든요. 같은 H100이라도 NVLink로 묶인 8GPU 서버와 그렇지 않은 서버의 학습 성능이 차이 나는 이유도 결국 GPU 간 통신 속도예요.

온프레미스로 작은 AI 클러스터를 꾸려보려는 팀이라면 더 직접적이에요. 서버 2~4대로 시작할 때 100G 광 트랜시버를 사기보다 DAC 한 가닥이 훨씬 싸고 설정도 단순해요. 다만 거리 제한을 꼭 확인하셔야 하고, 스위치와 NIC 양쪽 벤더 호환성도 미리 체크해야 해요(Cisco, Mellanox, Arista가 서로 자기 인증 안 받은 케이블을 거부하는 경우가 있거든요).