에이전트 PC 시대, 진짜 오는 걸까? NPU와 온디바이스 AI가 바꾸는 컴퓨터의 미래

'AI PC'라는 말, 이제 슬슬 진짜가 되어가요

요즘 노트북 광고 보면 'AI PC', 'NPU 탑재' 같은 문구가 빠지질 않죠. 처음엔 그냥 마케팅 용어 아닌가 싶었는데, 업계가 그리는 그림은 생각보다 커요. 핵심 질문은 이거예요. "우리는 정말 '에이전트 PC(Agentic PC)' 시대로 가고 있는 걸까?"

여기서 '에이전트'가 뭐냐면요. 지금까지 우리가 쓰던 AI는 대부분 '대답하는 AI'였어요. 질문하면 답을 주고, 문서 요약해 달라면 요약해주고. 근데 에이전트는 한 발 더 나가요. 내 컴퓨터 안에서 직접 행동하는 AI거든요. "이번 주 회의록 정리해서 폴더별로 나눠줘"라고 하면, 진짜로 파일을 열고 분류하고 정리까지 해버리는 거죠. 비유하자면 비서가 말로만 조언해주던 단계에서, 내 책상을 직접 정리해주는 단계로 넘어가는 거예요.

왜 'PC 안에서' 돌리는 게 중요할까

이런 에이전트를 제대로 돌리려면 AI 모델이 클라우드(인터넷 너머 서버)가 아니라 내 기기 안에서 직접 돌아가야(온디바이스) 유리해요. 이유가 세 가지예요.

첫째는 속도예요. 매번 인터넷 서버에 다녀오면 그만큼 느려지거든요. 에이전트가 화면을 보고 클릭하고 판단하는 걸 반복하려면 응답이 즉각적이어야 해요. 둘째는 프라이버시예요. 내 파일, 내 메일, 내 화면을 통째로 외부 서버에 보내는 건 부담스럽잖아요. 기기 안에서 처리하면 데이터가 밖으로 안 나가요. 셋째는 비용이에요. 클라우드 추론은 쓸 때마다 돈이 나가지만, 내 기기에서 돌리면 전기값 정도죠.

그래서 등장한 게 NPU(Neural Processing Unit, 신경망 전용 칩)예요. 이게 뭐냐면, AI 계산만 전담하는 별도의 두뇌라고 보면 돼요. CPU는 만능 일꾼, GPU는 그래픽·병렬 계산 담당인데, NPU는 'AI 추론 전용'으로 설계돼서 같은 작업을 훨씬 적은 전력으로 처리해요. 성능 단위로 TOPS(초당 몇 조 번 연산하는지)를 쓰는데, 요즘 노트북용 칩들이 40~50 TOPS급으로 올라오면서 작은 언어 모델 정도는 노트북에서 충분히 돌릴 수 있게 됐어요.

업계는 이미 다 뛰어들었어요

이 흐름은 한 회사만의 이야기가 아니에요. 마이크로소프트는 'Copilot+ PC'라는 기준을 만들어서 일정 수준 이상 NPU를 단 노트북에만 그 라벨을 붙이고 있고, 애플은 'Apple Intelligence'로 자사 칩에서 온디바이스 AI를 밀고 있어요. 칩 쪽에서는 퀄컴의 스냅드래곤 X 시리즈, 인텔과 AMD의 신형 모바일 프로세서가 전부 NPU 성능 경쟁에 들어갔고요.

소프트웨어 쪽도 재밌어요. 거대한 GPT급 모델 말고, SLM(Small Language Model, 작은 언어 모델)이 뜨고 있거든요. 마이크로소프트의 Phi 시리즈처럼 작지만 똑똑한 모델들이 나오면서, '굳이 클라우드 안 가도 웬만한 건 기기에서 해결'이라는 그림이 현실화되고 있어요. 여기에 에이전트가 외부 앱·도구와 연결되도록 표준화하는 움직임(예: 도구 연결 프로토콜)까지 더해지면, PC 자체가 하나의 자동화 플랫폼이 되는 거죠.

한국 개발자에게는 어떤 의미일까

실무적으로 챙겨볼 포인트가 분명해요. 우선 모델 경량화·양자화 기술의 가치가 확 올라가요. 양자화가 뭐냐면, 모델의 숫자 정밀도를 줄여서(예: 32비트 → 4비트) 용량과 연산을 확 줄이는 기술인데, 온디바이스 시대엔 이게 필수 역량이 돼요. SLM을 파인튜닝해서 우리 회사 업무에 맞게 돌리는 수요도 늘어날 거고요.

또 하나는 관점의 전환이에요. 앞으로는 내가 만든 앱이 '에이전트가 호출하는 대상'이 될 수 있어요. 사람이 버튼 누르는 UI뿐 아니라, AI 에이전트가 깔끔하게 조작할 수 있는 인터페이스(명확한 API, 구조화된 출력)를 갖춘 앱이 살아남는 거죠. 지금부터 '내 서비스를 에이전트가 쓰기 좋게' 설계하는 감각을 길러두면 분명 유리해요.

마무리

에이전트 PC는 아직 '완성된 미래'라기보다 '빠르게 다가오는 방향'에 가까워요. 하지만 하드웨어(NPU), 모델(SLM), 연결 표준이 동시에 갖춰지고 있다는 건 분명한 신호죠. 여러분은 어떻게 보세요? 내 컴퓨터가 알아서 일을 처리해주는 시대, 편리함이 먼저일까요 아니면 'AI가 내 화면을 다 본다'는 불안이 먼저일까요?