스탠퍼드 대학의 학생 매체 스탠퍼드 리뷰(Stanford Review)가 보도한 내용인데요, 학교의 기숙사와 식당 운영을 맡는 부서 R&DE(Residential & Dining Enterprises)가 홍보물에 쓸 사진에서 학생들의 인종이 다르게 보이도록 AI로 편집했다는 거예요. 실제 학생을 찍은 사진을 가져다가 생성형 AI로 손을 봐서, 원래 사진에는 없던 인종 구성을 만들어냈다는 이야기죠. 대학 홍보물에 '다양성'을 억지로 집어넣는 논란은 예전부터 있었지만, 이번엔 포토샵이 아니라 AI가 그 일을 했다는 점에서 개발자들이 한 번 짚고 넘어갈 만한 사건이에요.
사실 새로운 이야기는 아니에요
이게 뭐냐면, 대학 홍보물의 '다양성 연출' 논란은 20년도 더 된 이야기예요. 가장 유명한 사례가 2000년 위스콘신대학교 매디슨 캠퍼스 사건인데요, 입학 안내 책자 표지의 풋볼 경기 관중 사진에 흑인 학생 한 명을 포토샵으로 합성해 넣었다가 들통났어요. 원본 사진에는 그 학생이 없었거든요. 이 일은 지금도 '다양성 워싱'의 교과서적 사례로 언급돼요.
그때와 지금의 차이는 도구예요. 포토샵 합성은 손이 많이 가고 티가 나기 쉬웠지만, 지금은 생성형 AI로 몇 초 만에 자연스럽게 사진 속 사람의 외모를 바꿀 수 있어요. 비용이 0에 가까워지면 '하지 말아야 할 일'도 무심코 하게 되는 문턱이 낮아지죠. 기술이 쉬워질수록 판단 기준은 더 명확해야 하는데, 현실은 거꾸로 가는 경우가 많아요.
기술적으로 무슨 일이 일어난 걸까
사진 속 사람의 인종을 바꾸는 작업은 요즘 이미지 생성 모델의 인페인팅(inpainting)이나 이미지 편집 기능으로 쉽게 할 수 있어요. 인페인팅이 뭐냐면, 이미지의 특정 영역을 지우고 그 자리를 주변 맥락에 맞게 AI가 새로 그려 넣는 기술이에요. 얼굴 영역을 지정하고 프롬프트를 주면 조명, 각도, 표정까지 맞춰서 그럴듯하게 만들어줘요. Adobe Firefly, Stable Diffusion 계열 도구, 각종 상용 편집 앱에 다 들어가 있는 기능이고, 특별한 기술 없이 마케팅 담당자도 쓸 수 있어요.
문제는 이게 '쉽다'는 것 자체예요. 기술적으로는 배경의 전봇대를 지우는 것과 사람의 인종을 바꾸는 것이 같은 기능이거든요. 도구는 둘을 구분하지 않아요. 그래서 판단은 온전히 쓰는 사람의 몫이 되고, 그 판단 기준이 조직에 없으면 이런 일이 벌어져요. 그리고 사진 속 인물은 실존하는 학생이에요. 본인 동의 없이 외모가 바뀐 사진이 학교 이름으로 배포됐다면, 다양성 문제 이전에 초상권과 동의의 문제이기도 해요.
업계에서는 어떻게 대응하고 있나
이런 문제 때문에 업계는 두 방향으로 움직이고 있어요. 하나는 '출처 표시'예요. C2PA라는 표준이 있는데, 이게 뭐냐면 이미지 파일 안에 '이 사진은 언제 어떤 카메라로 찍혔고 어떤 도구로 어떻게 편집됐다'는 이력을 암호학적으로 서명해서 넣는 기술이에요. Adobe, 마이크로소프트, 구글, OpenAI 등이 참여하고 있고, 최신 카메라와 편집 도구들이 조금씩 지원을 늘리고 있어요. 이 이력이 붙어 있으면 'AI로 얼굴을 편집했다'는 사실을 숨기기 어려워지죠.
다른 하나는 규제예요. EU의 AI법(AI Act)은 AI로 생성하거나 조작한 이미지와 영상에 그 사실을 표시하도록 요구해요. 미국도 주 단위로 비슷한 법이 늘고 있고요. 한국도 2026년 1월 시행된 AI 기본법에 생성형 AI 산출물 표시 의무가 들어 있어요. 그러니까 'AI로 살짝 손봤다'가 앞으로는 법적 문제로 이어질 수 있는 환경이 되고 있는 거예요.
한국 개발자에게 주는 시사점
이 사건이 남 이야기가 아닌 이유는, 이미지 편집 기능을 제품에 넣는 개발자가 한국에도 많기 때문이에요. 쇼핑몰 상품 사진 보정, 프로필 사진 앱, 마케팅 자동화 도구 같은 데서 생성형 편집 기능은 이제 기본이잖아요. 그런 기능을 만드는 입장이라면 몇 가지를 생각해볼 만해요.
첫째, 편집 이력을 남기는 설계예요. 어떤 영역을 AI로 바꿨는지 메타데이터로 기록하고, 가능하면 C2PA 같은 표준을 붙이는 거죠. 둘째, 사람의 신체적 특성을 바꾸는 편집에는 별도의 확인 단계나 정책을 두는 거예요. 셋째, AI 기본법의 표시 의무를 제품 기획 단계에서 미리 챙기는 거고요. 그리고 개발자 개인으로서는, 회사 마케팅팀이 '사진에 다양성 좀 넣어줘'라고 요청할 때 그게 왜 문제인지 설명할 수 있어야 해요. 기술을 아는 사람이 선을 그어줘야 하는 순간이 있거든요.
마무리
한 줄로 정리하면, AI 이미지 편집이 너무 쉬워진 시대에 '할 수 있다'와 '해도 된다'를 구분하는 기준을 조직과 제품 안에 미리 심어둬야 한다는 이야기예요.
여러분 회사에서는 마케팅용 이미지에 생성형 AI를 어디까지 쓰고 있나요? 그리고 그 기준을 누가 정하고 있는지도 궁금해요.
🔗 출처: Hacker News