Hacker News 2026.04.10 22

Microsoft PhotoDNA의 오탐 문제 — 해시 기반 콘텐츠 스캐닝의 한계

무슨 일이 벌어지고 있나요?

Microsoft가 만든 PhotoDNA라는 기술을 아시나요? 이건 아동 성 착취물(CSAM)을 탐지하기 위해 만들어진 이미지 해싱 기술이에요. 클라우드 서비스, 이메일, 소셜 미디어 등에서 불법 이미지를 자동으로 찾아내는 데 널리 사용되고 있죠. 그런데 최근 이 PhotoDNA가 정상적인 가족 사진이나 일상 이미지를 불법 콘텐츠로 잘못 판별하는 오탐(false positive) 사례가 보고되면서 문제가 되고 있어요.

PhotoDNA가 어떻게 작동하는지부터 알아볼게요

일반적인 파일 해시(예: SHA-256)는 파일이 1비트만 달라도 완전히 다른 해시값이 나와요. 하지만 PhotoDNA는 다르게 동작해요. 이건 퍼셉추얼 해싱(perceptual hashing)이라는 기술을 사용하는데요, 이게 뭐냐면 이미지의 "시각적 지문"을 추출하는 거예요.

좀 더 쉽게 설명하면, 이미지를 아주 작은 크기로 축소하고 흑백으로 변환한 다음, 각 영역의 밝기 패턴을 숫자로 변환해요. 이렇게 만들어진 해시값은 원본 이미지를 약간 잘라내거나, 크기를 바꾸거나, 색조를 변경해도 비슷한 값이 나오도록 설계되어 있어요. 그래서 불법 이미지의 변형본도 잡아낼 수 있는 거죠.

문제는 이 "비슷하면 같다고 판단하는" 특성이 양날의 검이라는 거예요. 시각적으로 유사한 패턴을 가진 완전히 다른 이미지를 같은 것으로 잘못 매칭할 수 있거든요.

오탐이 발생하면 어떤 일이 생기나요?

이게 단순히 "알림이 잘못 왔네" 수준의 문제가 아니에요. PhotoDNA에 의해 플래그가 걸리면 해당 사용자의 계정이 즉시 정지될 수 있고, 경우에 따라 법 집행 기관에 자동으로 신고가 접수되기도 해요. 실제로 구글에서 자녀의 피부 발진 사진을 의사에게 보내기 위해 촬영한 아버지가 CSAM 소지 혐의로 계정이 정지되고 경찰 조사까지 받은 사례가 보도된 적 있어요.

이번에 보고된 사례에서도 비슷한 상황이 벌어지고 있어요. 사용자들이 OneDrive나 Outlook에 올린 일반적인 이미지가 PhotoDNA에 의해 잘못 감지되면서 서비스 이용에 문제가 생기고 있다는 거예요.

기술적으로 왜 이런 일이 생기는 걸까요?

퍼셉추얼 해싱의 근본적인 한계와 관련이 있어요. 이미지를 저차원 벡터로 압축하는 과정에서 필연적으로 정보 손실이 발생하고, 서로 다른 이미지가 같은 해시 공간에 매핑되는 해시 충돌이 일어날 수 있어요. 이건 수학적으로 피할 수 없는 문제예요. 특히 처리하는 이미지 수가 수십억 장으로 늘어나면 아무리 낮은 오탐률이라도 절대적인 오탐 건수는 상당해질 수 있어요.

또한 PhotoDNA의 해시 데이터베이스(NCMEC에서 관리하는 알려진 CSAM 이미지의 해시 목록)의 품질 관리 문제도 있을 수 있어요. 잘못된 해시가 데이터베이스에 들어가면 그에 매칭되는 모든 유사 이미지가 오탐 대상이 되니까요.

업계의 비슷한 기술들과 비교

Apple도 2021년에 CSAM 탐지를 위한 NeuralHash를 발표했다가 프라이버시 논란으로 도입을 보류한 적 있어요. NeuralHash 역시 퍼셉추얼 해싱 기반이었는데, 발표 직후 연구자들이 서로 다른 이미지로 같은 해시를 만들어내는 충돌 공격을 시연하면서 신뢰도에 의문이 제기됐죠.

Meta는 자체 해싱 기술인 PDQ를 오픈소스로 공개했고, 업계 차원에서는 여러 회사가 참여하는 해시 공유 데이터베이스를 운영하고 있어요. 하지만 이런 기술들 모두 오탐이라는 근본적인 한계를 공유하고 있어요.

한국 개발자에게 주는 시사점

한국에서 클라우드 스토리지나 이미지 호스팅 서비스를 개발하고 있다면, 콘텐츠 모더레이션 기술의 오탐 문제는 반드시 인지하고 있어야 해요. 방송통신심의위원회 등의 규제 요구사항에 따라 유사한 콘텐츠 스캐닝을 도입해야 할 수도 있는데, 이때 오탐에 대한 대응 프로세스(사용자 이의 제기 절차, 수동 검토 체계 등)를 함께 설계하는 게 필수적이에요.

또한 퍼셉추얼 해싱 기술 자체는 중복 이미지 탐지, 저작권 보호 등 다양한 분야에서 활용되고 있어서, 이런 기술의 원리와 한계를 이해하는 것은 실무에서도 유용해요.