AI 에이전트에게 네트워크 탐사를 맡겼다가 통장이 텅 비어버린 이야기

요즘은 AI 에이전트한테 일을 맡겨두고 자리를 비우는 게 별로 낯설지 않은 풍경이 됐는데요. 오늘 소개할 이야기는 그 '자율성'이라는 게 잘못 풀리면 어떤 일이 벌어지는지 보여주는 아주 생생한 사례예요. 한 네트워크 엔지니어가 자신의 AI 에이전트에게 DN42라는 실험용 네트워크를 탐색하고 스캔하는 작업을 맡겼는데, 에이전트가 쉬지 않고 작업을 반복하면서 API 비용이 눈덩이처럼 불어났고, 결국 운영자의 잔고를 모조리 털어버렸다는 내용이거든요. 웃자고 보기엔 남 일 같지 않은, 에이전트 시대의 비용 관리 교훈이 가득한 이야기예요.

DN42가 뭐냐면

먼저 DN42부터 짚고 갈게요. 이게 뭐냐면, 전 세계 네트워크 덕후들이 모여서 만든 일종의 '미니 인터넷'이에요. 실제 인터넷은 BGP라는 라우팅 프로토콜로 전 세계 네트워크들이 서로 경로 정보를 주고받으면서 돌아가는데, 이걸 진짜 인터넷에서 실습하다가 실수하면 대형 사고가 나잖아요. 그래서 VPN 터널로 참가자들끼리 연결한 사설 네트워크 위에서 BGP, DNS, 라우팅 정책 같은 걸 마음껏 실험해 볼 수 있게 만든 공간이 DN42예요. 진짜 인터넷과 똑같은 기술 스택을 쓰지만 망가져도 괜찮은 연습용 세계인 거죠. 네트워크 엔지니어 지망생들에게는 최고의 놀이터로 통하는 곳이에요.

비용은 어디서 폭발했을까

문제는 에이전트가 일하는 방식에 있어요. AI 에이전트는 보통 'LLM 호출 → 도구 실행 → 결과를 다시 LLM에 입력'이라는 루프를 돌면서 일하거든요. 그런데 네트워크 스캔이라는 작업은 출력물이 어마어마하게 많아요. 수천 개의 호스트 목록, 라우팅 테이블, 응답 로그... 이게 전부 텍스트로 변환돼서 모델의 컨텍스트(모델이 한 번에 읽어 들이는 입력)에 차곡차곡 쌓여요. LLM API는 토큰, 그러니까 입력하고 출력하는 텍스트 양에 비례해서 돈을 받기 때문에, 컨텍스트가 길어질수록 호출 한 번의 단가도 계속 올라가요. 게다가 에이전트가 '아직 스캔이 안 끝났네, 계속하자'를 반복하면 그 비싼 호출이 수백, 수천 번 일어나는 거예요. 사람이라면 '이쯤 했으면 됐다' 하고 멈출 텐데, 멈춤 조건을 제대로 정해주지 않은 에이전트는 잔고가 바닥날 때까지 성실하게 일하거든요. 똑똑해서 사고를 치는 게 아니라, 지치지 않아서 사고를 치는 거죠.

사실 처음 있는 일이 아니에요

이런 류의 사고는 AutoGPT가 유행하던 시절부터 반복돼 왔어요. 목표만 주면 알아서 일한다는 자율 에이전트들이 무한 루프에 빠져 토큰을 태우는 사례가 그때도 많았거든요. 달라진 건 이제 에이전트가 진짜로 쓸 만해져서, 더 많은 사람들이 더 강력한 권한을 쥐여주고 있다는 점이에요. 클라우드 자원을 만들 수 있는 에이전트는 인스턴스 요금을, 외부 API를 쓰는 에이전트는 그 API 요금까지 함께 태울 수 있죠. 그래서 업계에서도 요즘 '가드레일'이 화두인데요. 최대 반복 횟수 제한, 호출당 예산 상한, 도구 출력 잘라내기, 위험한 작업 전에 사람의 승인을 받는 휴먼 인 더 루프(human-in-the-loop) 같은 안전장치들이 에이전트 프레임워크의 기본기로 자리 잡는 중이에요.

우리한테 주는 교훈

에이전트를 만들거나 쓰고 있다면 오늘 당장 점검해 볼 게 몇 가지 있어요. 첫째, API 콘솔에서 하드 리밋(한도 초과 시 아예 차단되는 설정)을 걸어두세요. 알림만 오는 소프트 리밋은 자는 동안엔 소용이 없거든요. 둘째, 에이전트 루프에 최대 스텝 수를 정하세요. 무한히 도는 걸 막는 가장 단순하고 확실한 방법이에요. 셋째, 도구가 돌려주는 출력은 반드시 요약하거나 잘라서 컨텍스트에 넣으세요. 스캔 로그 전체를 그대로 먹이는 건 돈을 갈아 넣는 지름길이에요. 넷째, 장시간 도는 에이전트라면 누적 비용을 직접 추적해서 임계치를 넘으면 스스로 멈추게 만드는 게 좋아요. 사소해 보여도 이 네 가지가 여러분의 통장을 지켜줘요.