애플이 'Core AI' 프레임워크를 공개했다 — 온디바이스 AI 시대의 새 무기

애플이 AI를 OS 깊숙이 박아넣기 시작했어요

애플 개발자 사이트에 Core AI라는 새로운 프레임워크 문서가 등장했어요. 이름에서 느껴지듯, Core ML(애플의 머신러닝 실행 엔진), Core Image, Core Data처럼 애플이 "OS의 기본 기능"으로 삼는 'Core' 계열에 AI를 정식으로 올린다는 신호예요. 그동안 애플은 "Apple Intelligence"라는 이름으로 AI 기능을 사용자에게 보여줬는데, Core AI는 그걸 개발자가 직접 자기 앱에서 쓸 수 있게 여는 문이라고 보면 돼요.

'Core AI'가 가져오는 변화

핵심은 온디바이스(on-device), 즉 기기 안에서 직접 AI를 돌리는 거예요. 보통 챗GPT 같은 걸 쓰면 내 데이터가 인터넷 너머 서버로 갔다가 답이 돌아오잖아요. 반면 온디바이스 모델은 아이폰·맥 안에 들어있는 작은 언어 모델(파운데이션 모델, foundation model)이 직접 추론해서 답을 줘요. 그래서 인터넷이 없어도 되고, 응답이 빠르고, 무엇보다 데이터가 기기 밖으로 안 나가서 프라이버시에 유리하죠.

Core AI 같은 프레임워크가 개발자에게 제공하는 건 보통 이런 것들이에요. 텍스트 요약·생성, 분류, 의미 기반 검색 같은 작업을 몇 줄의 Swift 코드로 호출하는 API, 모델에게 "이런 형식의 JSON으로만 답해" 하고 강제하는 구조화된 출력(guided generation), 그리고 앱이 정의한 기능을 AI가 직접 호출하게 하는 툴 콜링(tool calling) 같은 거죠. 개발자가 거대한 모델을 직접 다운로드하고 메모리를 관리할 필요 없이, OS가 이미 들고 있는 공용 모델을 빌려 쓰는 구조라 앱 용량도 안 늘어나고요.

업계 흐름에서의 위치

이건 애플 혼자만의 움직임이 아니에요. 구글은 안드로이드에 Gemini Nano를 ML Kit의 GenAI API로 열었고, 마이크로소프트는 윈도우에 Windows AI / Phi Silica라는 온디바이스 모델을 넣었어요. 즉, 모바일·데스크톱 OS 3대장이 모두 "AI를 OS 기본 API로 제공한다"는 같은 방향으로 달리는 중이에요.

애플의 강점은 하드웨어와 OS, 그리고 칩(뉴럴 엔진)을 한 회사가 다 만든다는 점이에요. 그래서 모델을 자기 칩에 딱 맞게 최적화해서, 배터리를 덜 먹으면서도 빠르게 돌릴 수 있죠. 단점이라면 온디바이스 모델은 클라우드의 거대 모델(GPT, Claude급)보다 작아서 복잡한 추론에는 한계가 있다는 거예요. 그래서 "가벼운 일은 기기에서, 무거운 일은 클라우드로" 나눠 쓰는 하이브리드 설계가 당분간 표준이 될 거예요.

한국 개발자에게 주는 시사점

애플 생태계 앱을 만드는 분이라면 이건 꽤 중요한 흐름이에요. 그동안 앱에 AI를 넣으려면 OpenAI API를 호출하느라 토큰 비용이 나가고, 사용자 데이터를 외부로 보내는 부담이 있었거든요. 온디바이스 API를 쓰면 그 비용이 0에 수렴하고, 개인정보 이슈도 크게 줄어요. 예를 들어 노트 앱의 자동 요약, 메시지 스마트 답장, 사진 설명 생성 같은 기능을 무료로, 오프라인에서 돌릴 수 있게 되는 거죠.

다만 현실적으로 챙길 점은 기기 제약이에요. 온디바이스 AI는 최신 칩이 달린 기기에서만 제대로 동작하니, 구형 기기 사용자에게는 대체 동작(fallback)을 마련해야 해요. 그리고 모델 성능이 OS 버전에 묶여 있어서, "내 앱의 AI 품질을 내가 100% 통제할 수 없다"는 점도 감안해야 하고요.

한 줄 정리: Core AI는 AI가 특별한 외부 서비스가 아니라 OS의 기본 부품이 되는 시대를 보여주는 이정표예요.

여러분 앱에 AI를 넣는다면, 비용과 프라이버시 면에서 온디바이스가 매력적일까요, 아니면 성능을 위해 여전히 클라우드를 택하시겠어요?