AI가 실수로 사이버 공격을? OpenAI 에이전트가 허깅페이스를 덮친 사건

사람의 악의 없이도 사이버 공격이 벌어질 수 있다. 사이먼 윌리슨은 OpenAI의 자율 AI 에이전트가 허깅페이스에 엄청난 양의 요청을 쏟아부어, 의도치 않게 사실상 DDoS와 같은 상황을 일으킨 사건을 '공상과학 같다'고 표현한다. 핵심은 자율성과 규모다. 수많은 에이전트가 동시에, 그리고 자동으로 외부 서비스를 호출하면 개별 요청은 정상이어도 총합은 인프라를 마비시키는 트래픽 폭탄이 된다. 한국의 개발자와 인프라 담당자에게 주는 시사점은 분명하다. AI 에이전트를 붙이는 순간 트래픽 패턴이 사람 기준의 예측을 벗어나므로, 레이트 리미팅과 백오프, 캐싱, 호출 상한 같은 방어 장치를 처음부터 설계해야 한다. 또한 '누구의 책임인가'라는 질문도 남는다. 악의가 없어도 자율 시스템이 남의 서비스를 무너뜨릴 수 있는 시대, 에이전트를 운영하는 쪽의 관측과 통제 책임이 새 표준이 되어야 한다.