악셀레라 AI가 11월 12일 시카고 SC26 개막을 앞두고 3세대 추론 전용 실리콘 '티타니아(Titania)'의 아키텍처를 공개했다. 핵심은 자사의 디지털 인메모리 컴퓨트(D-IMC) 배열이 처음으로 부동소수점 연산을 수행한다는 점이다. 현재 출하 중인 2세대 제품 유로파(Europa)는 부동소수점 모델을 INT8 가중치와 INT16 활성값으로 변환해 처리했지만, 티타니아는 MXFP4, FP4, MXFP8, FP8, BF16을 SRAM 배열 내부에서 네이티브로 계산한다. 이는 오늘날 공개 가중치 MoE 모델들이 실제로 배포되는 포맷과 일치하며, 에지 지향 아키텍처가 프런티어급 추론 시장으로 올라서려는 시도라는 점에서 주목할 만하다.
칩렛 구성과 서버 밀도
각 티타니아 칩렛은 TSMC N4C 공정에 AI 코어 32개, 컴퓨트 코어 16개, 클러스터 공유 SRAM 128MB를 집적해 FP8 기준 최대 1.25 PFLOPS를 낸다. AI 코어 하나가 D-IMC 배열 안에서 39.3 TFLOPS(FP8)를 담당한다. 칩렛 두 개를 UCIe로 연결한 400W SiP(system-in-package)는 2.5 PFLOPS FP8, 128GB~2TB로 구성 가능한 LPDDR6 16개 모듈, 2,458GB/s 메모리 대역폭, 1.28TB/s 스케일업 대역폭, PCIe Gen6 x16 호스트 링크를 제공한다. 레퍼런스 서버 AX8은 이 SiP 8개를 4U 공랭 섀시에 담는다. 악셀레라는 AX8 한 대가 FP4 기준 1.6조 파라미터 모델을 KV 캐시 여유까지 두고 적재하며, 기존 15kW 랙에 두 대, 30kW 공랭 랙에 다섯 대가 들어간다고 설명한다.
모든 배열을 감싼 RISC-V
티타니아의 또 다른 특징은 연산 블록마다 RISC-V 코어를 제어 경로에 배치했다는 것이다. AI 코어 하나에는 데이터 경로를 조율하는 RISC-V 오케스트레이션 CPU, 8,192비트 벡터 길이를 갖는 RISC-V 벡터 CPU, 활성값용 스트리밍 벡터 프로세서, 2MB 로컬 SRAM이 붙는다. 컴퓨트 코어 16개는 각각 4,096비트 벡터의 RISC-V CPU 2개와 4MB 공유 SRAM을 더한다. 공개된 블록 다이어그램을 세어보면 칩렛당 약 97개의 RISC-V CPU가 들어가는 셈이다. 벡터 확장은 악셀레라 독자 설계이며, 행렬 연산은 D-IMC 배열이 맡으므로 RISC-V 매트릭스 확장은 쓰지 않는다. 이 정도 벡터 길이는 사이파이브 등 라이선스 RISC-V AI 코어에서 흔한 512~1,024비트를 크게 웃돈다.
소프트웨어 측면에서 악셀레라는 유로파에서 임의의 파이토치 그래프를 자사 AxeleraScript DSL로 컴파일하는 '보이저(Voyager) SDK'가 컴파일러 범용성에 도달했고, vLLM·쿠버네티스 연동이 티타니아로 그대로 이식된다고 주장한다. 제품 담당 부사장 마누엘 보티야는 "추론에서 CUDA 해자는 전혀 보이지 않는다"고 말했다. 다만 새 부동소수점 경로와 스케일업 패브릭은 아직 양산 컴파일러 이력이 없으며, 오픈소스 스택을 앞세운 텐스토렌트가 같은 개발자층을 노린다.
대역폭 대신 활용률에 건 승부
패키지당 LPDDR6 대역폭 2.46TB/s는 엔비디아 B200 한 장의 HBM3E 약 8TB/s에 한참 못 미친다. 악셀레라의 논리는 활용률이다. 유로파 실리콘에서 Qwen3-8B를 배치 1로 처음 포팅했을 때 가용 DDR 대역폭의 83%를 썼고, 한 차례 최적화 후 88%까지 올랐다는 것이다. CTO 에반겔로스 엘레프테리우는 "우리는 누구에게도 시뮬레이터를 믿어달라고 하지 않는다"며 티타니아 예측치가 테이프아웃 전 RTL 데이터로 보정된 동일 이상의 활용률을 전제한다고 밝혔다. LPDDR 선택은 가속기 원가에서 가장 빠르게 오르는 HBM(가속기 매출 비중 2026년 11.2%→2027년 16.9% 전망)을 피하는 효과도 있다. 그러나 8B 밀집 모델·배치 1에서의 88%가 397B MoE의 전문가 라우팅과 중간 배치에서 어떨지는 미지수이고, LPDDR6 공급 역시 인텔·퀄컴의 수요로 빠듯해지고 있다.
티타니아가 겨냥하는 곳은 엔비디아 로드맵이 떠나버린 랙이다. 업타임 인스티튜트 조사에서 운영자의 80% 이상이 30kW를 넘는 랙을 갖고 있지 않은 반면, 베라 루빈 랙은 액랭으로 약 200kW에 달한다. AX8 서버는 SiP당 약 0.75kW 수준이다. 10월 랙 시뮬레이션에서 티타니아 서버 8대는 DeepSeek-R1에서 초당 43,816토큰(경쟁 10U GPU 서버 3대는 26,900), GPT-OSS-120B에서 431,425 대 152,234를 기록했다고 한다. 비교 대상은 공개 차트에서 번호로만 표기됐으나, 질의응답에서 RTX 6000·MI325X·H100·H200급 엔터프라이즈 서버와 B200·MI355X급 데이터센터 제품(2026년 9월 InferenceX 데이터 기준)으로 확인됐다.
실무자가 주목할 지점과 한계
LPDDR 추론 시장은 빠르게 채워지고 있다. 인텔의 GPU D270(크레센트 아일랜드)은 최대 480GB LPDDR5X를 350W 공랭으로, 퀄컴 AI200은 카드당 768GB LPDDR을 160kW 액랭 랙으로 내세우며, 엔비디아는 티타니아에 없는 소프트웨어 기반을 갖춘 RTX PRO 6000 블랙웰로 응수한다. 악셀레라의 강점은 400W 패키지 안의 와트당 연산이다. 제조 측면에서 비용 최적화 4nm급인 N4C 선택은 N3로 옮겨가는 선두 가속기들과의 웨이퍼 경쟁을 덜어주며, EuroHPC의 DARE 이니셔티브가 개발을 지원하고 메티스·유로파를 합쳐 600곳 이상의 고객을 확보했다고 한다. 결국 실무 관점의 판단은 숫자의 출처에 달려 있다. 티타니아는 아직 테이프아웃조차 하지 않았고, 양산은 2027년 3분기, PCIe 공급은 2028년이며, 그때는 2026년 9월 데이터에 없던 루빈 세대와 Instinct MI400 계열이 벤치마크 상대가 된다. 3,300억 원(3억 달러 이상)의 확정 수주는 분기당 수백억 달러를 예약하는 GPU 진영과 비교하면 작고, 양산 MoE 모델에서 실측치가 나오기 전까지 7배·20배 주장은 유망한 추정으로 남는다.