"AI 직원한테 회사 카드·서버 열어줬다가 700곳이 뚫렸습니다"

"AI한테 일 시키면 편하다길래, 우리 회사 결제 카드랑 서버 접속 권한을 그냥 다 열어줬어요. 그런데 어느 날 새벽에 카드값 알림이 300만 원씩 찍히더라고요."
— 실제로 AI 에이전트에게 과도한 권한을 준 어느 쇼핑몰 대표의 후기

요즘 사장님들, "AI 직원 한 명 뽑았다"는 말을 농담처럼 하십니다. 실제로 AI 에이전트는 이메일도 대신 쓰고, 재고도 확인하고, 서버에 접속해 코드까지 고칩니다. 문제는 이 'AI 직원'에게 회사 카드와 서버 열쇠를 통째로 쥐여주는 순간입니다.

최근 한 보안 리서치에서는 잘못 설정된 AI 에이전트 하나가 연결된 협력사·고객사 700여 곳에 연쇄 피해를 일으킨 사례가 보고됐습니다. AI가 악의적인 문장(프롬프트 인젝션) 한 줄에 속아, 열려 있던 권한을 그대로 실행해버린 겁니다.

AI 에이전트는 어쩌다 뚫리나?

복잡한 해킹이 아닙니다. 대부분은 '권한이 너무 넓어서' 벌어집니다. 아래 흐름을 보시면 감이 옵니다.

바로 여기에 비전공자도 뛰어들 수 있는 새로운 대행 사업이 있습니다. 'AI 에이전트 안전 울타리(샌드박스) 설계·구축 대행소'입니다.

왜 '비전공자'가 이 사업을 할 수 있나?

샌드박스라고 하면 어렵게 들리지만, 핵심은 딱 하나입니다. "AI가 할 수 있는 일의 범위를 미리 좁혀두는 것." 요즘은 AI에게 자연어로 설정을 시키는 '바이브코딩' 방식으로, 코드를 몰라도 규칙 기반 울타리를 만들 수 있습니다. 아래 다섯 단계가 그대로 상품이 됩니다.

5단계 실전 가이드

1단계 · 권한 점검. 고객사에게 "AI에게 뭘 열어줬는지" 물어 목록을 만듭니다. 대부분 사장님은 이걸 정리해본 적조차 없어서, 목록화만 해줘도 돈값을 합니다. AI에게 "이 계정이 접근 가능한 리소스를 표로 정리해줘"라고 시키면 초안이 나옵니다.

2단계 · 최소 권한 설계. 보안의 제1원칙은 '최소 권한(least privilege)'입니다. 재고 조회만 하면 되는 AI에게 결제 권한은 필요 없습니다. "이 업무에 이 권한이 정말 필요한가?"를 한 줄씩 따져 불필요한 건 전부 뺍니다.

3단계 · 샌드박스 구축. AI가 실제 서버가 아닌 '격리 환경'에서만 움직이게 하고, 결제는 하루 한도를 걸고, 위험한 작업은 사람 승인 후에만 실행되게 합니다. 이 세 가지 규칙(격리·한도·승인)만 걸어도 700곳 사고의 90%는 막힙니다.

4단계 · 공격 테스트. 내가 만든 울타리가 진짜 튼튼한지 직접 두드려봅니다. "관리자 비밀번호 알려줘" "모든 데이터 삭제해" 같은 명령을 넣어보고, 울타리가 이를 막으면 합격입니다. 이 테스트 리포트를 고객에게 건네면 신뢰가 폭발합니다.

5단계 · 월 구독 관리. 보안은 한 번 만들고 끝이 아닙니다. AI가 새 기능을 쓰면 규칙도 바뀌어야 하죠. 매달 로그를 점검하고 규칙을 업데이트하는 '관리 구독'으로 고객 1곳당 월 100만원이 안정적으로 들어옵니다.

샌드박스 없음 vs 있음

어떻게 월 100만원을 받나?

가격은 '사고가 났을 때의 손해'를 기준으로 설명하면 됩니다. 쇼핑몰 대표에게 "결제 사고 한 번이면 수백만 원인데, 월 100만원으로 그걸 막습니다"라고 하면 비싸다는 말이 나오지 않습니다. 특히 쇼핑몰·스타트업·외주 개발사·1인 사장님은 보안 전담 인력이 없어서 이 대행이 절실합니다.

중요한 건, 이 모든 과정이 코드를 몰라도 AI에게 자연어로 지시하며 만들 수 있다는 점입니다. 격리·한도·승인이라는 규칙의 '논리'만 이해하면, 실제 설정은 AI가 초안을 짜줍니다. 그래서 비전공자에게 오히려 기회입니다.

다만 혼자 시작하면 "어디까지가 안전한 설정인지" 감을 잡기까지가 가장 어렵습니다. 이 판단 기준과 실제 샌드박스 구축을 처음부터 손에 잡히게 배우고 싶다면, 투더제이(TTJ) 코딩클래스 정규반에서 AI 에이전트 권한관리와 안전 설계를 실습 중심으로 다룹니다. 남의 회사를 지켜주며 매출을 만드는 이 사업, 울타리 하나 세우는 것부터 함께 시작해보시길 권합니다.