Ente가 만든 로컬 LLM 앱 'Ensu', 내 데이터를 밖으로 보내지 않는 AI 비서

프라이버시 우선 AI 비서가 등장했어요

종단간 암호화 사진 저장 서비스로 잘 알려진 Ente에서 새로운 프로젝트를 공개했어요. 이름은 'Ensu'인데요, 한마디로 설명하면 내 기기에서만 돌아가는 로컬 LLM 앱이에요.

LLM이 뭐냐면, Large Language Model의 약자로, ChatGPT 같은 AI 챗봇의 핵심 엔진이라고 생각하면 돼요. 보통 이런 AI 모델은 클라우드 서버에서 돌아가잖아요? 내가 입력한 질문이 인터넷을 타고 서버로 가서, 거기서 처리되고, 다시 답변이 돌아오는 구조죠. 그런데 Ensu는 이 과정을 전부 내 기기 안에서 처리해요. 데이터가 밖으로 나가지 않는 거예요.

왜 로컬에서 돌리는 게 중요할까

"ChatGPT 쓰면 되지 왜 굳이?"라고 생각할 수 있어요. 하지만 생각해보면, 우리가 AI에게 물어보는 것들이 꽤 민감한 경우가 많거든요. 코드 리뷰를 요청하면 회사 소스코드가 전송되고, 이메일 초안을 부탁하면 개인 정보가 포함된 내용이 서버로 가죠. 의료 상담이나 법률 질문을 한다면 더 민감해지고요.

로컬 LLM은 이런 프라이버시 문제를 근본적으로 해결해요. 모든 처리가 내 기기에서 일어나니까, 인터넷 연결이 없어도 작동하고, 내 데이터가 어떤 서버에도 저장되지 않아요. Ente가 이 분야에 뛰어든 건 꽤 자연스러운 일이에요. 이 회사의 핵심 철학 자체가 "사용자 데이터를 우리도 볼 수 없게 하겠다"거든요.

Ensu는 어떻게 동작하나

Ensu는 오픈소스 LLM 모델들을 로컬에서 실행할 수 있도록 해주는 앱이에요. 이게 뭐냐면, Meta의 Llama나 Mistral 같은 공개된 AI 모델을 다운받아서 내 노트북이나 데스크톱에서 직접 돌리는 거예요. 기존에도 ollama나 llama.cpp 같은 도구로 이게 가능했지만, 대부분 터미널에서 명령어를 입력해야 하는 방식이라 진입 장벽이 있었어요.

Ensu의 차별점은 이걸 일반 사용자도 쓸 수 있는 깔끔한 GUI(그래픽 인터페이스)로 제공한다는 거예요. 모델 다운로드부터 대화까지 앱 안에서 다 되고, Ente의 기존 서비스들과 연동될 가능성도 열려 있어요. 예를 들어 Ente Photos에 저장된 사진에 대해 AI로 검색하거나 정리하는 기능을 로컬에서 처리할 수 있다면, 프라이버시를 유지하면서도 AI의 편의성을 누릴 수 있는 거죠.

로컬 LLM 생태계는 지금 어디까지 왔을까

로컬 LLM 분야는 2024년부터 정말 빠르게 발전해왔어요. 대표적인 도구들을 비교해보면 이래요.

ollama는 현재 로컬 LLM의 사실상 표준 같은 위치예요. 터미널 기반이지만 설치와 사용이 간편하고, 다양한 모델을 지원해요. LM Studio는 GUI를 제공해서 비개발자도 쉽게 쓸 수 있고, 모델 탐색과 비교가 편리해요. Jan은 오픈소스 ChatGPT 대안을 표방하면서 로컬 실행을 지원하죠.

Ensu가 이 경쟁 구도에서 어떤 위치를 차지할지는 아직 지켜봐야 하지만, Ente의 프라이버시 DNA와 기존 사용자 기반은 확실한 차별점이에요. 특히 이미 Ente Photos나 Ente Auth를 쓰고 있는 사용자라면, 같은 생태계 안에서 AI까지 프라이빗하게 쓸 수 있다는 건 매력적인 제안이에요.

한국 개발자에게 주는 시사점

한국에서는 개인정보보호법이 꽤 엄격한 편이잖아요. 특히 금융, 의료, 공공 분야에서 일하는 개발자라면 AI 도구를 쓰고 싶어도 데이터 유출 우려 때문에 망설이는 경우가 많을 거예요. 로컬 LLM은 이런 규제 환경에서 AI를 활용할 수 있는 현실적인 대안이에요.

실무에서 당장 시도해볼 수 있는 시나리오도 여러 가지예요. 사내 문서를 기반으로 한 Q&A 봇을 로컬에서 돌린다든가, 코드 리뷰를 외부 서비스 없이 처리한다든가, 민감한 데이터가 포함된 보고서를 AI로 분석한다든가 하는 것들이요. Ensu 같은 도구가 그 진입 장벽을 낮춰줄 수 있어요.

다만 현실적인 제약도 있어요. 로컬에서 LLM을 돌리려면 어느 정도 성능의 하드웨어가 필요하거든요. 보통 16GB 이상의 RAM, 가능하면 GPU가 있으면 훨씬 좋아요. 작은 모델은 맥북 에어에서도 돌아가지만, GPT-4 수준의 성능을 기대하기는 아직 어렵고요.