
무슨 소식인가요
9to5Mac이 11월 10일자 기사에서, Apple이 Mac에서 로컬 AI 모델을 쉽게 돌릴 수 있게 해주는 새 앱을 준비하고 있다고 보도했어요. 먼저 양해를 구하자면, 이 글은 앱의 세부 스펙을 하나하나 옮기는 글이 아니에요. 앱 이름이나 지원 모델, 출시 시점 같은 구체적인 내용은 원문 보도에서 직접 확인하시는 게 가장 정확하고요, 여기서는 “Apple이 이 영역에 직접 들어온다”는 사실이 왜 의미 있는지, 그리고 지금 Mac에서 로컬 AI를 돌린다는 게 실제로 어떤 모습인지를 차근차근 풀어볼게요.
로컬 AI 모델이 뭐길래
로컬 모델이 뭐냐면, ChatGPT나 Claude처럼 남의 서버에 질문을 보내는 대신 모델 파일 자체를 내 컴퓨터에 내려받아 내 컴퓨터의 칩으로 돌리는 방식이에요. 배달 음식과 집밥의 차이라고 보면 돼요. 배달(클라우드)은 편하고 맛도 좋지만 주문할 때마다 돈이 들고, 내가 뭘 시켰는지 가게가 다 알죠. 집밥(로컬)은 재료와 주방을 직접 갖춰야 하지만, 한번 갖추면 추가 비용이 없고 무엇을 해 먹는지 밖에서는 알 수 없어요. 그래서 로컬 모델은 사내 코드나 고객 데이터처럼 밖으로 내보내기 곤란한 걸 다룰 때, 인터넷이 없는 환경에서 쓸 때 특히 매력적이에요. 대신 내 장비 성능이 곧 한계라서, 최상위 클라우드 모델만큼 똑똑하지는 않다는 건 감안해야 해요.
왜 하필 Mac일까요
Apple Silicon Mac이 로컬 AI에 유난히 잘 맞는 이유는 통합 메모리(unified memory) 구조 때문이에요. 이게 뭐냐면, CPU와 GPU가 하나의 메모리 풀을 같이 쓰는 설계예요. 일반 PC에서는 모델이 그래픽카드 전용 메모리(VRAM)에 통째로 올라가야 빠른데, 소비자용 그래픽카드의 VRAM은 대개 8~24GB, 최상위 제품도 32GB 정도라 큰 모델은 아예 못 올리는 경우가 많아요. 반면 Mac은 시스템 메모리의 상당 부분을 GPU가 그대로 쓸 수 있어서, 메모리를 64GB나 그 이상으로 구성한 Mac은 꽤 큰 모델도 한 대로 돌릴 수 있어요. 여기에 Apple이 직접 만들어 오픈소스로 공개한 머신러닝 프레임워크 MLX까지 있어서, 소프트웨어 쪽 토대도 이미 깔려 있고요.
지금은 어떻게 돌리고, 뭐가 불편한가요
현재 Mac에서 로컬 모델을 돌리는 대표적인 길은 서드파티 도구예요.
- Ollama: 터미널에서
ollama run 모델이름한 줄이면 내려받기부터 실행까지 해줘요. - LM Studio: 모델 검색, 다운로드, 채팅을 GUI로 제공하는 데스크톱 앱이에요.
- llama.cpp, MLX: 위 도구들 밑에서 실제 계산을 맡는 엔진 계층이에요.
업계 맥락: 플랫폼 주인들이 직접 나서는 흐름
이 소식이 흥미로운 건 Apple 혼자만의 움직임이 아니기 때문이에요. Microsoft는 Foundry Local이라는 이름으로 로컬 모델 실행 도구를 내놨고, Google도 Android에서 온디바이스 모델을 받아 돌려 보는 AI Edge Gallery 앱을 공개했어요. 운영체제와 칩을 가진 회사들이 “모델을 내 기기에서 돌리는 경험”을 서드파티에만 맡겨 두지 않겠다는 흐름이에요. Apple은 그동안 Foundation Models 프레임워크로 앱 개발자가 기기 내장 모델을 호출하게 해주고, Xcode에서 로컬 모델을 연결해 쓸 수 있게 하는 식으로 개발자 쪽 길을 먼저 닦아 왔어요. 이번 보도대로 모델 실행을 쉽게 해주는 전용 앱까지 나온다면 그 퍼즐에 조각 하나가 더 채워지는 셈이죠.
자연스럽게 Ollama나 LM Studio의 입지가 궁금해지는데요, Apple이 서드파티 앱의 기능을 자사 제품에 흡수해 버리는 일을 흔히 셜록킹(Sherlocking)이라고 불러요. 다만 서드파티 도구는 Windows와 Linux까지 지원하고, 새 모델이 나왔을 때 따라붙는 속도가 빠르다는 강점이 있어서 쉽게 대체된다고 단정하기는 일러요.
한국 개발자에게 주는 시사점
첫째, 보안 규정 때문에 클라우드 AI를 못 쓰는 조직에 선택지가 하나 늘 수 있어요. 금융권이나 공공, 망분리 환경처럼 외부 전송이 막힌 곳에서는 “플랫폼 제조사가 직접 제공하는 도구”라는 점이 내부 검토에서 유리하게 작용할 가능성이 있거든요. 둘째, 장비를 살 때의 기준이 달라져요. Mac은 구입 후 메모리를 늘릴 수 없으니, 로컬 모델을 써볼 생각이 있다면 메모리를 넉넉하게 잡는 게 좋아요. 거칠게 어림하면 4비트 양자화 기준으로 파라미터 10억 개당 0.6GB 안팎이 필요해서, 80억 파라미터 모델은 5GB 남짓, 300억대 모델은 20GB 안팎을 잡아먹어요. 셋째, 한국어 품질은 꼭 직접 확인해야 해요. 작은 모델일수록 한국어에서 영어보다 품질이 더 크게 떨어지는 경우가 많아서, 벤치마크 숫자만 보고 고르면 실망하기 쉬워요. 앱이 나오기 전이라도 Ollama나 LM Studio로 지금 바로 감을 잡아둘 수 있으니 미리 만져 보시길 권해요.
마무리
정리하면, 로컬 AI가 “아는 사람만 쓰는 도구”에서 “운영체제가 기본으로 챙기는 기능”으로 넘어가는 신호로 읽을 만한 소식이에요. 여러분은 로컬 모델을 실제 업무에 쓰고 계신가요? Apple 공식 앱이 나온다면 지금 쓰는 도구에서 갈아탈 것 같은지, 아니면 그대로 갈 것 같은지 이유와 함께 들려주세요.
🔗 출처: Hacker News