Anthropic의 Project Glasswing — AI 시대, '진짜 중요한 소프트웨어'를 어떻게 지킬 것인가

무슨 일이 있었나요?

Anthropic이 Project Glasswing이라는 새로운 프로젝트를 공개했어요. 이름이 독특한데, Glasswing은 날개가 투명한 나비 종류거든요. 이름에서 짐작할 수 있듯이, 이 프로젝트의 핵심 철학은 투명성(transparency)이에요. AI가 우리 생활 곳곳에 들어오면서, AI가 의존하는 핵심 소프트웨어 인프라를 어떻게 안전하게 만들고 유지할 것인지에 대한 Anthropic의 대답이라고 할 수 있어요.

지금 우리가 쓰는 소프트웨어는 수많은 오픈소스 라이브러리와 시스템 위에 쌓여 있잖아요. 그런데 AI 시스템이 이런 소프트웨어 스택 위에서 점점 더 중요한 결정을 내리게 되면, 그 기반이 되는 코드에 취약점이 있을 때의 파급력은 기존과는 차원이 달라지거든요. Project Glasswing은 바로 이 문제를 정면으로 다루려는 시도예요.

핵심 내용 — AI로 소프트웨어 보안을 강화한다

Project Glasswing의 접근법은 크게 두 가지 축으로 나눠볼 수 있어요.

첫 번째는 AI를 활용한 코드 보안 검증이에요. 이게 뭐냐면, 사람이 코드 리뷰를 하듯이 AI가 코드를 읽고 잠재적인 취약점을 찾아내는 건데요, 단순히 패턴 매칭으로 "이 부분 위험해 보여요"라고 알려주는 수준이 아니라, 코드의 논리적 흐름을 따라가면서 실제로 악용 가능한 경로가 있는지까지 분석하는 거예요. 기존의 정적 분석(Static Analysis) 도구들이 오탐(false positive)이 너무 많아서 개발자들이 결국 무시하게 되는 문제가 있었는데, AI 기반 접근은 맥락을 이해하니까 훨씬 정확한 결과를 낼 수 있다는 거죠.

두 번째는 핵심 인프라 소프트웨어의 형식 검증(Formal Verification) 지원이에요. 형식 검증이라는 건 수학적으로 "이 코드는 절대 이런 버그가 발생하지 않는다"를 증명하는 기법인데요, 전통적으로는 비용이 너무 비싸서 항공우주나 의료 분야 같은 극도로 안전이 중요한 곳에서만 쓰였어요. Anthropic은 AI가 이 검증 과정을 도와서 비용을 획기적으로 낮출 수 있다고 보는 거예요. 마치 수학 문제를 풀 때 AI가 증명의 핵심 아이디어를 제안해주는 것처럼요.

업계 맥락 — 왜 지금인가

사실 AI를 보안에 활용하려는 시도는 Anthropic만 하는 게 아니에요. Google은 이미 Project Zero 팀을 통해 AI 기반 취약점 탐지를 적극적으로 활용하고 있고, OSS-Fuzz 같은 퍼징 도구에도 AI를 접목했어요. Microsoft도 Security Copilot을 내놨고요.

그런데 Anthropic의 접근이 좀 다른 점이 있어요. 다른 회사들이 "우리 제품/플랫폼을 더 안전하게"에 초점을 맞추고 있다면, Anthropic은 "AI 시대의 인프라 전체를 안전하게"라는 더 넓은 시야를 갖고 있다는 거예요. 이건 Anthropic이 AI 안전성(AI Safety)을 회사의 핵심 미션으로 삼고 있는 것과도 맥이 닿아요. AI가 안전하려면, AI가 돌아가는 기반 소프트웨어도 안전해야 한다는 논리죠.

최근 xz 백도어 사건(오픈소스 압축 라이브러리에 악의적 코드가 삽입된 사건)이나 Log4Shell 같은 사례를 떠올려보면, 핵심 인프라 소프트웨어의 보안이 얼마나 중요한지 실감할 수 있어요. 한 명의 메인테이너가 관리하는 라이브러리에 전 세계가 의존하고 있는 상황에서, AI가 이 부담을 덜어줄 수 있다면 정말 의미 있는 일이겠죠.

한국 개발자에게 주는 시사점

당장 실무에서 Project Glasswing을 쓸 수 있는 건 아니지만, 이 프로젝트가 던지는 메시지는 분명해요. "AI 시대의 보안은 AI로 풀어야 한다"는 거예요.

한국에서도 금융, 의료, 공공 분야에서 AI 도입이 빠르게 진행되고 있는데, 이런 시스템의 기반이 되는 소프트웨어 보안에 대한 관심은 상대적으로 부족한 편이에요. 개발팀에서 보안 검토를 할 때 AI 기반 도구를 적극적으로 도입하는 것, 그리고 CI/CD 파이프라인에 AI 보안 검증 단계를 추가하는 것을 고려해볼 만해요.

또한 형식 검증 분야에 관심이 있는 분이라면, AI가 이 영역을 어떻게 변화시키고 있는지 주시해볼 가치가 있어요. 진입 장벽이 낮아지면 더 많은 프로젝트에서 형식 검증을 적용할 수 있게 되고, 이건 곧 새로운 커리어 기회로 이어질 수도 있거든요.