TECH 으로 돌아가기
TECH HACKER NEWS 6분 읽기 160 READS

DeepX, 5W 미만으로 1000억 파라미터 추론 주장한 2세대 엣지 AI칩 DX-M2

DeepX, 5W 미만으로 1000억 파라미터 추론 주장한 2세대 엣지 AI칩 DX-M2
SOURCE IMAGE · HACKER NEWS

국내 AI 반도체 스타트업 DeepX가 2세대 엣지 AI 칩 'DX-M2'를 공개하며, 1000억(100B) 파라미터 규모의 대형 언어 모델(LLM)을 5W 미만 전력으로 구동할 수 있다고 밝혔다. 이 칩은 삼성의 PIM(Processing-in-Memory) 메모리를 기반으로 설계됐으며, 샘플은 2027년 3월에 출하될 예정이다. 원문 보도에 따르면 DX-M2는 LPDDR5X-PIM을 적용해 이전 세대 대비 6.7배의 성능 향상을 목표로 하는 '테이프아웃(tape-out)' 단계에 진입했다.

숫자만 놓고 보면 공격적인 수치다. 통상 1000억 파라미터급 모델은 데이터센터의 GPU 여러 장을 묶어야 돌아가고, 전력 소비는 수백 W에서 kW 단위에 이른다. 이를 5W 미만, 즉 노트북 충전기보다 훨씬 낮은 수준의 전력으로 추론하겠다는 주장은 엣지 환경에서의 LLM 구동 방식 자체를 다시 생각하게 만든다. 다만 현재 공개된 정보는 제조사의 목표 사양에 가깝고, 실제 양산 칩의 정밀도(양자화 수준), 토큰 생성 속도, 지원 모델 구조 등 실무적으로 중요한 세부 조건은 아직 확인되지 않았다는 점을 분명히 할 필요가 있다.

PIM이 핵심인 이유

이 칩의 기술적 승부수는 삼성의 PIM 메모리에 있다. 전통적인 컴퓨팅 구조에서는 연산 유닛과 메모리가 분리돼 있어, LLM 추론처럼 방대한 가중치를 반복적으로 읽어들여야 하는 작업에서는 데이터가 메모리와 프로세서 사이를 오가는 과정 자체가 병목이 된다. 이른바 '메모리 월(memory wall)' 문제다. PIM은 메모리 내부 또는 바로 옆에서 일부 연산을 직접 수행함으로써 이 데이터 이동을 줄이고, 결과적으로 전력과 지연을 함께 낮추는 접근이다. DeepX가 LPDDR5X-PIM을 채택했다는 점은, 고가의 HBM이 아니라 모바일·엣지 기기에서 흔히 쓰이는 저전력 메모리 계열을 기반으로 삼았다는 의미로 읽힌다.

엣지 AI 칩에서 메모리 대역폭과 전력은 사실상 성능의 상한선을 결정한다. 아무리 연산 유닛이 빨라도 가중치를 제때 공급하지 못하면 유닛은 놀게 되고, 전력 예산을 넘기면 발열과 폼팩터 제약에 걸린다. 1000억 파라미터 모델을 5W 미만에서 돌린다는 목표가 설득력을 가지려면, 바로 이 메모리-연산 통합 구조에서 실제 유효 대역폭이 얼마나 확보되는지가 관건이 된다. 6.7배라는 세대 간 성능 향상 수치도 상당 부분 이 PIM 구조에서 나오는 것으로 보인다.

실무자가 눈여겨볼 지점

한국 IT 실무자 관점에서 이 발표가 갖는 의미는 두 가지다. 첫째는 온디바이스 LLM의 현실성이다. 그동안 엣지에서 돌릴 수 있는 모델은 수십억 파라미터 수준의 경량 모델에 머물렀고, 그 이상은 클라우드 호출에 의존해야 했다. 수 W 전력으로 1000억 파라미터급을 다룰 수 있다면 개인정보가 민감한 의료·금융·산업 현장, 혹은 네트워크가 불안정한 환경에서 데이터를 외부로 내보내지 않고 추론하는 선택지가 넓어진다. 둘째는 공급망 측면이다. 삼성의 PIM 메모리와 국내 팹리스의 결합은, AI 반도체에서 메모리 제조 역량을 가진 한국 생태계가 가질 수 있는 차별화 포인트를 보여준다.

다만 냉정하게 볼 지점도 분명하다. 샘플 출하 시점이 2027년 3월이라는 것은, 지금 발표가 완성된 제품이 아니라 설계 검증을 마치고 제작에 들어간 단계라는 뜻이다. 테이프아웃과 양산 사이에는 수율, 소프트웨어 스택, 개발 도구와 모델 포팅 생태계라는 긴 과정이 남아 있다. 엣지 AI 칩의 성패는 하드웨어 스펙만이 아니라 개발자가 기존 모델을 얼마나 쉽게 올리고 최적화할 수 있느냐에 달려 있는데, 이 부분에 대한 정보는 아직 공개되지 않았다.

결국 DX-M2는 '메모리 중심 컴퓨팅'이라는 흐름이 실제 상용 칩으로 구체화되고 있음을 보여주는 사례다. 공언된 수치가 실제 양산 제품에서 재현될지는 2027년 샘플과 이후 벤치마크를 통해 검증돼야 하며, 그때까지는 목표 사양과 실측 성능을 구분해 받아들이는 신중함이 필요하다. 그럼에도 저전력 대형 모델 추론이라는 난제에 메모리 반도체 역량으로 접근하는 전략은, 엣지 AI 하드웨어를 지켜보는 이들이 주목할 만한 방향임은 분명하다.

SOURCE · HACKER NEWS
원문 전체 보기 → https://www.eetimes.com/deepx-tapes-out-second-gen-chip-proj...
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...