OpenClaw로 만드는 '늘 켜져 있는' 로컬 AI 에이전트, 진짜 쓸만할까?

왜 지금 '로컬 AI 에이전트'가 다시 뜨는 걸까

요즘 ChatGPT나 Claude 같은 서비스, 참 편하긴 한데요. 회사에서 쓸 때마다 마음 한편이 불안하지 않으세요? "이거 입력하면 어딘가 서버에 저장되는 거 아니야?" 하는 찜찜함 말이에요. 특히 내부 코드나 고객 정보, 의료 데이터처럼 민감한 걸 다루는 개발자라면 더 그렇죠. 이런 맥락에서 최근 다시 주목받는 게 바로 로컬에서 돌아가는 AI 에이전트예요. 내 맥북이나 워크스테이션에서 모델을 직접 돌리니까 데이터가 밖으로 한 줄도 안 나가거든요.

이번에 소개할 OpenClaw는 그런 흐름 속에서 나온 오픈소스 프로젝트예요. 이름이 좀 낯설 수 있는데요, Anthropic의 Claude를 흉내 낸 게 아니라 "열려 있는(Open) + 에이전트의 발톱(Claw)" 정도의 뉘앙스로 이해하시면 돼요. 글쓴이가 재미있게도 제목에서 "난 MS-DOS를 기억하니까 이런 마케팅에 안 속아"라고 농담을 던졌는데, 이게 핵심 메시지이기도 해요. AI 에이전트라고 하면 뭔가 거창해 보이지만, 결국은 '프롬프트를 잘 받아서 로컬 도구를 호출하고 결과를 돌려주는 프로그램'일 뿐이라는 거죠.

이게 정확히 뭘 하는 녀석인데요?

OpenClaw는 세 가지를 한 세트로 묶은 프로젝트예요. 첫째, 로컬 LLM 런타임. 보통 Ollama나 llama.cpp 같은 걸 써서 Llama 3, Mistral, Qwen 같은 오픈 모델을 자기 기기에서 돌리는 거예요. 이게 뭐냐면, OpenAI API처럼 HTTP로 호출할 수 있는 로컬 서버를 띄워주는 건데, 인터넷 연결이 끊겨도 동작해요.

둘째, 에이전트 루프. 모델이 단순히 한 번 답하고 끝나는 게 아니라, "파일 읽기", "셸 명령 실행", "웹 검색" 같은 도구를 스스로 골라 쓰면서 문제를 풀어나가게 해주는 골격이에요. 우리가 아는 Cursor, Cline, Aider 같은 코딩 도구의 심장이 바로 이 루프예요.

셋째, '항상 켜져 있음(always-on)'의 보안 설계. 로컬 에이전트가 내 파일에 접근하고 셸 명령을 실행할 수 있다는 건 바꿔 말하면 내 컴퓨터를 망가뜨릴 권한을 주는 것과 비슷하거든요. 그래서 OpenClaw는 실행 가능한 명령을 샌드박스 안에서만 돌리고, 네트워크 접근을 허용 목록(allowlist)으로 제한하고, 감사 로그를 남기는 식으로 경계를 잡아요. 글쓴이가 MS-DOS 시절을 언급한 건, 그때처럼 "내 컴퓨터에서 내가 모든 걸 통제한다"는 감각을 되찾자는 취지예요.

클라우드 에이전트와 뭐가 그렇게 달라요?

비교해보면 이해가 쉬워요. Claude Code나 ChatGPT의 코드 인터프리터는 강력하지만, 결국 여러분 코드가 Anthropic이나 OpenAI 서버로 올라간다는 전제를 피할 수 없어요. 기업에서 EU GDPR이나 국내 개인정보보호법을 신경 써야 한다면 이게 꽤 부담이죠.

반면 OpenClaw 같은 로컬 에이전트는 네트워크 의존이 없어요. 비행기 안에서도, 사내망에서도 돌아가요. 대신 단점도 명확해요. 모델 성능 차이가 커요. GPT-5나 Claude Opus 4.X 수준의 복잡한 추론을, 30B~70B짜리 오픈 모델로는 아직 따라잡기 어렵거든요. 또 GPU 메모리를 꽤 먹어요. 70B 모델을 4bit로 양자화해도 40GB 넘게 필요해서, M-시리즈 맥 중에서도 통합 메모리 64GB 이상을 추천해요.

경쟁/유사 프로젝트로는 Ollama + Open WebUI 조합, LM Studio, Continue.dev, LocalAI 등이 있어요. OpenClaw의 차별점은 "에이전트 루프 + 보안 샌드박스 + 백그라운드 상주"를 한 묶음으로 제공한다는 점이에요. 그러니까 여러 도구를 짜맞추지 않아도 바로 "내 로컬 AI 비서" 하나가 세팅되는 거죠.

한국 개발자 입장에서 써볼 가치가 있을까?

솔직히 말하면, 지금 당장 실무 코딩 생산성을 끌어올리고 싶다면 Cursor나 Claude Code가 훨씬 낫긴 해요. 하지만 금융, 의료, 공공, 방산처럼 데이터 반출 자체가 금지된 도메인에 계신 분들은 얘기가 달라져요. 망분리 환경에서도 돌릴 수 있는 에이전트 스택을 미리 익혀두면, 사내 RAG 시스템이나 내부 개발자 도구를 만들 때 바로 자산이 돼요.

사이드 프로젝트로 돌려볼 만한 시나리오도 많아요. 예를 들어 개인 노트를 인덱싱해서 질문에 답하는 에이전트, 로컬 파일을 정리해주는 에이전트, 로그를 분석해주는 운영 자동화 에이전트 같은 거요. 클라우드 토큰 비용 걱정 없이 마음껏 실험할 수 있다는 점이 특히 매력적이에요.