Claude Code로 실수로 포크 폭탄을 만들어버린 이야기 — AI 코딩 에이전트의 위험한 순간

AI가 코드를 짜다가 시스템을 먹통으로 만들었다고?

요즘 AI 코딩 에이전트를 실무에 쓰는 분들이 빠르게 늘고 있죠. GitHub Copilot, Cursor, Claude Code 같은 도구들이 코드 작성뿐 아니라 터미널 명령어 실행까지 대신해주는 시대가 됐는데요. 한 개발자가 Claude Code를 사용하다가 의도치 않게 포크 폭탄(fork bomb)을 만들어버린 경험담을 공유했어요. 시스템이 완전히 멈춰버리는 상황을 AI가 만들어낸 거예요.

포크 폭탄이 뭐냐면, 프로세스가 자기 자신을 계속 복제(fork)해서 시스템 리소스를 순식간에 고갈시키는 걸 말해요. 유명한 Bash 포크 폭탄 :(){ :|:& };: 같은 걸 떠올리면 되는데요, 프로세스가 2개 → 4개 → 8개 → 16개... 이런 식으로 기하급수적으로 늘어나서 몇 초 만에 시스템이 더 이상 새 프로세스를 만들 수 없게 돼요. CPU와 메모리가 포화되면서 키보드 입력도 안 먹고, 결국 강제 재부팅밖에 답이 없는 상황이 되는 거죠.

어떻게 이런 일이 벌어졌을까?

Claude Code는 대화형으로 코드를 작성하고, 사용자의 승인 하에 셸 명령어도 실행할 수 있는 AI 에이전트예요. 이 개발자의 경우, Claude Code가 작업을 수행하는 과정에서 스크립트를 작성하고 실행했는데, 그 스크립트가 자기 자신을 재귀적으로 호출하는 구조를 갖게 된 거예요.

핵심은 AI가 "의도적으로" 포크 폭탄을 만든 게 아니라는 거예요. AI가 문제를 해결하려고 합리적으로 보이는 접근을 했는데, 그 결과가 우연히 재귀적 프로세스 생성으로 이어진 거죠. 사람이 보면 "아, 이러면 무한 루프에 빠지겠는데?" 하고 바로 알아챌 수 있는 패턴인데, AI는 각 단계의 로직만 보고 전체적인 시스템 영향을 예측하지 못한 거예요.

이게 왜 무서운지 생각해보면, AI 코딩 에이전트의 동작 방식 때문이에요. 이런 도구들은 코드를 생성하고 → 실행하고 → 결과를 보고 → 다음 행동을 결정하는 루프를 돌거든요. 만약 실행 결과가 에러라면? AI는 "고쳐서 다시 실행"을 시도해요. 그런데 이 "고치는 과정"이 또 다른 문제를 만들 수 있고, 그 문제를 고치려다 더 큰 문제가 생기는 연쇄 반응이 가능한 거예요.

AI 에이전트의 권한 문제, 어디까지 허용할 것인가

이 사건은 AI 코딩 에이전트에 "얼마나 많은 권한을 줄 것인가"라는 근본적인 질문을 던져요. Claude Code는 기본적으로 위험할 수 있는 명령어를 실행하기 전에 사용자에게 승인을 요청해요. 하지만 현실적으로, 작업 흐름이 빨라지면 승인 요청을 꼼꼼히 읽지 않고 습관적으로 "Yes"를 누르게 되는 경우가 많거든요. 또는 자동 승인 모드를 켜놓는 경우도 있고요.

비슷한 맥락에서 Cursor나 GitHub Copilot의 에이전트 모드도 같은 위험을 안고 있어요. 코드를 자동으로 생성하고 실행하는 모든 도구는 잠재적으로 시스템에 해를 끼칠 수 있는 명령을 실행할 가능성이 있어요. 차이점은 각 도구가 이 위험을 얼마나 잘 방어하느냐예요.

업계에서는 이 문제에 대해 여러 방향으로 대응하고 있어요. 샌드박스 환경에서 AI가 생성한 코드를 실행하는 방식(Docker 컨테이너 안에서 돌린다든지), 위험한 패턴을 사전에 탐지하는 방식, 실행 시간이나 프로세스 수에 제한을 거는 방식 등이 있죠. 리눅스의 ulimit 명령어로 사용자당 최대 프로세스 수를 제한하는 것도 기본적인 방어 수단이에요.

한국 개발자에게 주는 시사점

AI 코딩 에이전트를 쓰고 있다면, 몇 가지 실천적인 방어책을 세워두는 게 좋아요.

우선, 자동 승인 모드를 함부로 켜지 마세요. 귀찮더라도 셸 명령어 실행 전에 한 번씩 확인하는 습관이 중요해요. 특히 rm, 반복문이 포함된 스크립트, nohup이나 백그라운드 실행(&) 같은 명령어가 보이면 더욱 주의가 필요해요.

그리고 ulimit으로 프로세스 수를 제한해두세요. ulimit -u 500 같이 설정해두면, 설령 포크 폭탄이 발생해도 시스템 전체가 먹통이 되는 건 막을 수 있어요. Docker 컨테이너 안에서 AI 에이전트를 돌리는 것도 좋은 방법이고요.

더 근본적으로는, AI가 생성한 코드를 "사람이 짠 코드"와 같은 수준으로 신뢰하면 안 된다는 점을 기억해야 해요. AI는 각 줄의 문법이나 로직은 맞출 수 있지만, 시스템 전체에 미치는 부작용을 예측하는 능력은 아직 부족하거든요. 코드 리뷰를 사람에게 받는 것처럼, AI가 짠 코드도 실행 전에 한 번 훑어보는 습관이 필요해요.