인도 매체 India Today가 '한 AI 스타트업이 12시간 만에 Anthropic을 해킹해 직원 정보와 내부 메시지에 접근했다'는 내용을 보도했어요. Anthropic은 Claude를 만든 회사이자, 업계에서 AI 안전과 보안을 가장 앞에 내세워 온 곳 중 하나예요. 그런 회사가, 그것도 AI를 앞세운 상대에게 뚫렸다는 이야기라 눈길이 갈 수밖에 없죠.
다만 먼저 짚고 갈 게 있어요. 보도 제목만으로는 이게 사전에 합의된 침투 테스트(레드팀)였는지 무단 침입이었는지, 실제로 어디까지 접근했는지 단정하기 어려워요. 보안 사고는 공격한 쪽의 주장과 피해 기업의 설명이 다른 경우가 많아서, Anthropic의 공식 입장과 후속 보도를 함께 확인하는 게 좋아요. 그래서 이 글에서는 사건의 세부 사항보다, 이 뉴스가 보여주는 더 큰 흐름인 'AI가 직접 해킹하는 시대'를 풀어볼게요.
AI 해킹 에이전트는 어떻게 동작할까
전통적인 침투 테스트는 사람이 단계를 밟아가요. 대상 시스템의 정보를 모으는 정찰, 약한 고리를 찾는 취약점 탐색, 그걸 실제로 이용하는 익스플로잇, 더 높은 권한을 얻는 권한 상승, 그리고 다른 시스템으로 옮겨 다니는 횡적 이동까지요. 숙련된 전문가가 해도 며칠에서 몇 주가 걸리는 일이에요.
AI 해킹 에이전트는 이 과정을 LLM이 직접 돌려요. 이게 뭐냐면, 언어 모델이 '다음에 뭘 해볼까'를 계획하고, 포트 스캐너나 브라우저, 스크립트 같은 도구를 직접 실행한 뒤, 결과를 보고 다음 행동을 다시 정하는 루프예요. 비유하자면 지치지도 퇴근하지도 않는 주니어 해커 수십 명을 동시에 굴리는 셈이에요. 한 명 한 명의 실력은 최고 전문가에 못 미칠 수 있어도, 시도하는 속도와 양이 압도적이거든요.
'12시간'이라는 숫자가 상징적인 이유가 여기 있어요. 사람이 하는 공격은 사람의 근무 시간에 묶이지만, 에이전트는 밤새 수백 갈래의 시도를 병렬로 이어가요. 제목에 나온 '직원 정보'와 '내부 메시지'라는 키워드도 눈여겨볼 만해요. 일반적으로 요즘 침해 사고는 코드의 버그보다 신원과 협업 도구 쪽에서 시작되는 경우가 많거든요. 사내 메신저, SSO 설정 실수, 깃허브에 노출된 토큰, 만료 기한 없는 API 키 같은 것들이요.
업계 맥락: 공격도 방어도 AI로 가속 중
이번 보도가 갑자기 튀어나온 이야기는 아니에요. 2024년 말 구글의 AI 에이전트 Big Sleep은 널리 쓰이는 데이터베이스 SQLite에서 실제 취약점을 찾아냈고, 2025년에는 자율 침투 테스트 도구 XBOW가 버그 바운티 플랫폼 HackerOne의 미국 랭킹 1위에 오르기도 했어요. 같은 해 미국 DARPA가 연 AI 사이버 대회 AIxCC 결승에서는 삼성리서치, KAIST, 포스텍, 조지아텍 연합팀인 Team Atlanta가 우승했죠.
악용 사례도 있어요. Anthropic은 2025년 11월, 국가 배후로 추정되는 그룹이 Claude Code를 악용해 사이버 스파이 활동을 벌였고 작업의 상당 부분을 AI가 자율적으로 수행했다고 직접 공개했어요. AI 공격을 막는 입장에서 보고서를 냈던 회사가, 이번에는 AI 기반 공격의 대상으로 거론된 셈이에요.
흐름은 분명해요. 공격자가 AI로 속도를 올리면 방어자도 AI로 코드를 리뷰하고, 취약점을 찾고, 패치를 자동화할 수밖에 없어요. 보안이 사람 대 사람의 싸움에서 에이전트 대 에이전트의 싸움으로 옮겨가고 있는 거죠.
한국 개발자에게 주는 시사점
국내에서도 SK텔레콤 유심 정보 유출 같은 대형 사고를 겪으면서 보안이 더 이상 보안팀만의 일이 아니라는 공감대가 생겼어요. AI 해킹 에이전트가 보편화되면 '설마 우리까지 노리겠어?'라는 생각은 더 위험해져요. 공격 비용이 낮아지면 작은 서비스도 충분히 표적이 되거든요.
당장 점검해 볼 만한 것들을 꼽아볼게요. 먼저 슬랙 봇 토큰, 깃허브 개인 액세스 토큰, 클라우드 키처럼 오래된 자격 증명이 어디에 흩어져 있는지 확인하고, 만료 기한과 최소 권한을 걸어두세요. 다음으로 MFA는 문자 인증보다 패스키나 보안 키 같은 피싱 저항형으로 올리는 게 좋아요. 그리고 공격 속도가 빨라질수록 사후 분석보다 실시간 탐지와 알림이 중요해지니, 로그 수집과 이상 징후 모니터링도 다시 들여다봐야 해요.
AI 기반 보안 점검 도구를 우리 서비스에 직접 돌려보는 것도 좋은 공부예요. 단, 반드시 허가받은 내 시스템, 가능하면 스테이징 환경에서만 하세요. 허락 없이 남의 시스템에 돌리면 정보통신망법 위반이 될 수 있어요. 보안과 AI 에이전트를 둘 다 이해하는 개발자는 앞으로 정말 귀한 인재가 될 거예요.
마무리
사건의 진위와 범위는 더 지켜봐야 하지만, 해킹에 걸리는 시간이 사람의 근무 시간에서 AI의 연산 시간으로 바뀌고 있다는 건 분명해요.
여러분의 팀은 AI 기반 공격에 대비해서 바꾼 게 있나요? AI 침투 테스트 도구를 실무에 도입한다면, 가장 먼저 어디를 점검해 보고 싶으세요?
🔗 출처: Hacker News