내 AI 비서를 내 인프라에서, 그런데 비용은 0원?
요즘 개발자들 사이에서 가장 뜨거운 장난감 중 하나가 “개인 AI 에이전트”예요. 메신저로 말을 걸면 일정도 정리해주고, 메모도 찾아주고, 정해진 시간에 알아서 뉴스도 요약해주는 그런 비서요. 올해 초에는 OpenClaw 같은 오픈소스 개인 에이전트가 인기를 끌면서 “에이전트 돌리려고 맥 미니를 샀다”는 이야기까지 나왔죠.
그런데 집에 24시간 켜둔 컴퓨터가 없거나, 서버를 직접 관리하기 귀찮은 분들도 많잖아요. Talorys는 바로 이 부분을 노린 오픈소스 프로젝트예요. 개인 AI 에이전트를 Cloudflare 무료 티어 위에 셀프호스팅할 수 있게 만든 거거든요. 내 Cloudflare 계정에 배포하니까 데이터는 내 계정 안에 있고, 서버 관리는 Cloudflare가 맡고, 인프라 비용은 무료 한도 안에서 해결하는 구조예요. 지원하는 메신저나 구체적인 기능 목록은 GitHub 저장소 README에서 확인하시고, 여기서는 “이게 어떻게 무료 티어로 가능한가”를 중심으로 풀어볼게요.
Cloudflare 무료 티어로 에이전트가 돌아가는 원리
Cloudflare를 CDN 회사로만 알고 계셨다면, 지금은 꽤 본격적인 개발자 플랫폼이라는 걸 알아두시면 좋아요. 에이전트에 필요한 부품이 거의 다 있거든요.
Workers는 서버리스 함수예요. 이게 뭐냐면, 서버를 계속 켜두지 않고 요청이 올 때만 코드가 실행되는 방식이에요. 서울을 포함해 전 세계 Cloudflare 데이터센터에서 실행되고, 무료 플랜에서도 하루 10만 요청까지 쓸 수 있어요. 개인 비서가 하루에 10만 번 불릴 일은 거의 없으니 넉넉하죠.
Durable Objects는 에이전트에게 특히 중요한 부품이에요. 일반 서버리스 함수는 실행이 끝나면 아무것도 기억하지 못하는데, Durable Object는 고유한 ID를 가진 작은 상태 저장 인스턴스거든요. 비유하자면 “나만 쓰는 개인 사물함이 딸린 전담 직원” 같은 거예요. 대화 기록이나 진행 중인 작업 상태를 여기에 SQLite로 저장할 수 있어요. 2025년부터 SQLite 기반 Durable Objects를 무료 플랜에서도 쓸 수 있게 되면서 이런 프로젝트가 현실적으로 가능해졌어요. Cloudflare가 내놓은 Agents SDK도 이 Durable Objects 위에서 에이전트를 만들 수 있게 해주는 프레임워크예요.
여기에 몇 가지를 더 붙일 수 있어요. 문서 저장용 R2(S3 호환 오브젝트 스토리지로, 무료 10GB에 외부 전송 비용이 없어요), 관계형 데이터용 D1(서버리스 SQLite), 의미 기반 검색용 벡터 DB Vectorize, 정해진 시간마다 코드를 실행하는 Cron Triggers, 일일 무료 할당량이 있는 Workers AI까지 조합하면 “기억하고, 검색하고, 알아서 움직이는” 에이전트 구조가 완성돼요. Talorys가 정확히 어떤 부품을 어떻게 엮었는지는 코드에 다 나와 있어서, 이 조합을 공부하는 교재로 쓰기에도 좋아요.
꼭 알아야 할 함정: CPU 시간과 모델 비용
무료라고 제한이 없는 건 아니에요. Workers 무료 플랜은 요청 하나당 CPU 시간이 10ms로 제한돼요. “10ms면 LLM 호출도 못 하는 거 아냐?” 싶을 수 있는데, 포인트는 CPU 시간과 실제 걸린 시간이 다르다는 거예요. LLM API 응답을 기다리는 동안에는 CPU를 쓰지 않으니 카운트되지 않거든요. 그래서 “외부 API를 부르고 기다리는” 에이전트 작업은 의외로 무료 티어와 궁합이 좋아요. 반대로 큰 JSON을 파싱하거나 무거운 계산을 하면 금방 한도에 걸릴 수 있어요.
그리고 인프라가 무료라고 AI 모델까지 무료인 건 아니에요. OpenAI나 Anthropic 같은 외부 모델 API를 쓰면 그 비용은 따로 나가요. Workers AI 무료 할당량 안에서 오픈 모델을 쓰면 정말 0원에 가깝게 운영할 수 있지만, 최신 상용 모델보다 성능이 떨어질 수 있다는 트레이드오프가 있어요.
다른 선택지와 비교
개인 에이전트를 운영하는 방법은 크게 세 가지예요. 로컬 실행형(OpenClaw처럼 내 컴퓨터에서 직접 돌리는 방식)은 내 파일과 앱에 깊이 접근할 수 있어요. 대신 컴퓨터를 계속 켜둬야 하고, 에이전트가 시스템 전체에 손댈 수 있어서 보안 부담이 커요. SaaS형(ChatGPT, Claude 앱의 기본 기능)은 편하지만 데이터와 동작 방식을 내가 통제하기 어렵고요. 서버리스 셀프호스팅형(Talorys)은 그 중간이에요. 항상 켜져 있고 관리 부담도 적지만, 내 로컬 파일이나 데스크톱 앱에는 직접 접근하지 못해요.
한국 개발자에게 주는 시사점
텔레그램이나 디스코드 봇으로 개인 비서를 만들어보고 싶었던 분들에게 좋은 출발점이에요. 직접 배포해보면 서버리스 환경에서 상태를 어떻게 관리하는지, 에이전트의 장기 기억을 어떻게 설계하는지 몸으로 익힐 수 있거든요. 요즘 뜨는 엣지 컴퓨팅 아키텍처를 실습하기에도 부담 없는 규모고요.
다만 보안은 꼭 챙기세요. API 키는 코드에 넣지 말고 Workers Secrets로 관리하세요. 에이전트에게 이메일이나 캘린더 같은 도구 권한을 줄 때는 프롬프트 인젝션(외부 콘텐츠에 숨겨둔 지시문으로 에이전트를 조종하는 공격)을 염두에 두고 최소 권한만 주는 게 좋아요. 셀프호스팅은 결국 보안 책임도 내가 진다는 뜻이니까요.
마무리
한줄 정리: Talorys는 “항상 켜져 있는 나만의 AI 비서”를 서버 관리 없이, 인프라 비용도 거의 없이 운영하는 방법을 보여주는 좋은 레퍼런스예요.
여러분이 개인 AI 비서를 만든다면 가장 먼저 맡기고 싶은 일은 뭔가요? 그리고 로컬 실행과 클라우드 셀프호스팅 중 어느 쪽이 더 마음 편하신가요?
🔗 출처: Hacker News