2U 서버 한 대에 10PB? Kioxia와 Dell이 만든 괴물 스토리지의 정체

서버 한 대로 영화 200만 편을 담는 시대

Kioxia와 Dell이 손을 잡고 흥미로운 물건을 내놨어요. 2U 크기, 그러니까 데이터센터 랙에 꽂는 서버 중에서 비교적 얇은 편에 속하는 박스 하나에 무려 10페타바이트(PB), 우리말로 1만 테라바이트(TB)에 달하는 저장 공간을 욱여넣은 거예요. 감이 잘 안 오실 수 있는데, 1TB짜리 외장하드 1만 개를 한 손에 들 수 있는 노트북보다 살짝 큰 박스에 담았다고 보시면 돼요.

왜 갑자기 이런 미친(?) 밀도의 스토리지가 나왔냐면, 요즘 AI 학습 데이터셋이 너무 커져서 그래요. 거대 언어모델(LLM)을 학습시키려면 텍스트, 이미지, 영상 데이터를 페타바이트 단위로 모아야 하고, 추론할 때도 벡터 DB나 RAG(검색 기반 생성)용 인덱스가 어마어마하게 커지거든요. 기존처럼 디스크를 잔뜩 늘어놓은 JBOD(Just a Bunch Of Disks) 방식으로는 전기료와 공간 비용을 감당하기 어려워졌어요.

어떻게 이게 가능한가

비밀은 QLC NAND와 고용량 E3.S 폼팩터에 있어요. 잠깐 풀어드리면, NAND는 우리가 쓰는 SSD의 알맹이인 플래시 메모리 칩이에요. 1비트만 저장하는 SLC부터 2비트(MLC), 3비트(TLC), 4비트(QLC)까지 있는데, 한 셀에 더 많은 비트를 욱여넣을수록 용량은 커지지만 속도와 수명은 떨어져요. QLC는 그중에서도 가장 빽빽하게 채워 넣는 방식이라, 단가 대비 용량이 압도적이거든요.

Kioxia는 이번에 122.88TB짜리 LC9 시리즈 SSD를 공급해요. SSD 한 개가 122TB라니 좀 비현실적이죠. 그리고 이걸 담는 폼팩터가 E3.S라는 거예요. 우리가 흔히 아는 2.5인치 디스크나 M.2 막대 모양이 아니라, 서버 전면에서 슬롯에 꽂아 넣는 카드 같은 형태인데 EDSFF(Enterprise and Data center SSD Form Factor)라는 새 표준에서 정의된 규격이에요. 발열 분산이 잘 되고 PCIe Gen5 대역폭을 풀로 쓸 수 있게 설계돼 있어요.

Dell의 PowerEdge R7715 같은 2U 서버에 이런 SSD를 슬롯당 한 개씩 80개 넘게 꽂으니까 10PB가 만들어지는 거죠. 단순히 용량만 큰 게 아니라 PCIe Gen5로 연결되니까 처리 속도도 같이 따라와요. 기존에 같은 용량을 HDD로 만들면 랙 한두 개를 통째로 써야 했는데, 그걸 2U로 줄였으니 공간 효율이 수십 배로 뛴 셈이에요.

업계 흐름에서의 위치

사실 Solidigm(구 인텔 NAND 사업부)도 비슷한 시기에 122TB QLC SSD를 발표했고, Samsung과 Micron도 100TB급 제품 로드맵을 공개한 상태예요. 그러니까 이번 발표는 어느 한 회사의 단독 깜짝쇼라기보단, "고용량 QLC SSD가 HDD를 본격적으로 밀어내기 시작했다"는 신호로 보는 게 맞아요. 특히 AI 인프라 회사들, 예를 들어 Meta나 Microsoft가 자기네 데이터센터를 QLC 기반으로 재편하고 있다는 얘기가 계속 나오고 있거든요.

HDD가 완전히 죽는다는 뜻은 아니에요. 콜드 스토리지(자주 꺼내 보지 않는 백업용 데이터)에선 여전히 GB당 가격이 압도적으로 싸니까요. 다만 "따뜻한 데이터(warm data)" 영역, 그러니까 가끔씩 빠르게 읽어야 하는 데이터 영역에선 QLC SSD가 이미 경제성을 역전하기 시작했다고 봐요.

한국 개발자에게 주는 시사점

당장 우리가 회사에서 이 서버를 사서 쓸 일은 거의 없겠죠. 가격도 한 대에 수억 원대일 거고요. 하지만 클라우드를 쓰는 입장에선 의미가 큰 변화예요. AWS, GCP, NCP 같은 클라우드 사업자들이 이런 고밀도 스토리지를 들이면 결국 고용량 블록 스토리지나 객체 스토리지의 단가 인하로 이어질 가능성이 높거든요. 특히 S3 같은 객체 스토리지의 "Standard" 티어 가격이 앞으로 몇 분기 동안 어떻게 움직이는지 지켜볼 만해요.

또 하나, AI 서비스를 만드는 분이라면 벡터 DB 사이즈 산정할 때 이제 "수십 TB면 너무 큰 거 아니냐"는 두려움을 좀 내려놔도 돼요. 단일 노드에 100TB짜리 인덱스를 올리는 게 점점 현실적인 옵션이 되고 있거든요. Milvus, Qdrant, Weaviate 같은 벡터 DB를 운영할 때 샤딩 전략을 다시 검토해볼 만한 시점이에요.

마무리

2U에 10PB는 단순히 "용량 자랑"이 아니라, AI 시대에 맞춰 데이터센터의 물리적 구조가 다시 짜이고 있다는 신호예요. 칩 밀도, 폼팩터 표준, 전력 효율이 한꺼번에 진화하면서 "GB당 가격"의 게임 규칙이 바뀌고 있는 거죠.

여러분은 어떻게 보세요? 앞으로 5년 안에 회사 온프레미스 서버실에서 HDD를 보기 힘들어질까요, 아니면 콜드 스토리지 자리만큼은 끝까지 지킬까요?