그림체를 넘어 '서명'까지 따라 그린 AI
미국 저널리즘 전문 매체 Nieman Lab이 흥미로우면서도 좀 불편한 사례를 보도했어요. ChatGPT의 이미지 생성 기능으로 '뉴요커(The New Yorker)' 스타일의 한 컷 만화를 만들면, 그림 한쪽에 실제 뉴요커에서 활동하는 만화가들의 서명이 들어간 결과물이 나온다는 거예요.
뉴요커의 한 컷 카툰은 100년 가까운 전통을 가진 장르예요. 흑백 펜 선, 그림 아래 붙는 위트 있는 캡션 한 줄, 그리고 그림 안 어딘가에 들어가는 작가의 손글씨 서명이 특징이죠. 그런데 AI가 그림체만 흉내 낸 게 아니라 '이 작가가 그렸다'는 표시까지 베껴버린 거예요. 화풍 모방 논쟁과는 결이 다른 문제가 생긴 셈이죠.
왜 이런 일이 생길까: 모델에게 서명은 '그림의 일부'
이미지 생성 모델은 엄청난 양의 이미지와 설명 텍스트를 보면서 '이런 그림은 이런 특징이 있구나'를 배워요. 그런데 뉴요커 카툰에는 거의 항상 서명이 들어가 있잖아요. 모델 입장에선 서명도 펜 선이나 캡션처럼 '뉴요커 카툰다움'을 이루는 요소 중 하나일 뿐이에요.
비유하자면 이런 거예요. 어떤 프랜차이즈 카페 메뉴판 사진을 수천 장 본 사람한테 '그 카페 스타일로 메뉴판 그려줘'라고 하면, 디자인만 따라 하는 게 아니라 가게 로고까지 그려 넣을 가능성이 크겠죠. 특히 학습 데이터에 자주 나온 서명일수록 거의 그대로 재현될 수 있어요. 이걸 '암기(memorization)'라고 불러요.
사실 처음 있는 일도 아니에요. 2023년에는 Stable Diffusion이 만든 이미지에 Getty Images 워터마크가 일그러진 채 찍혀 나오는 일이 있었고, 이게 Getty가 Stability AI를 상대로 낸 소송에서 중요한 근거로 쓰였어요. 다만 요즘 이미지 모델들은 글자를 훨씬 정확하게 쓰거든요. 예전처럼 뭉개진 흔적이 아니라 알아볼 수 있는 이름이 찍혀 나오면 문제가 훨씬 선명해질 수밖에 없어요.
화풍 모방과 서명 복제는 왜 다를까
2025년 3월 GPT-4o 이미지 생성 기능이 나왔을 때 '지브리 스타일' 열풍이 불면서 화풍 모방 논쟁이 크게 일었죠. 일반적으로는 화풍 자체를 저작권으로 보호하기는 어렵다고 보는 시각이 많아요.
하지만 서명은 얘기가 달라요. 서명은 '이 작품은 내가 만들었다'는 일종의 신원 증명이거든요. 실존 작가의 서명이 붙은 가짜 그림은 구조적으로 위작이랑 비슷해요. 작가 입장에선 자기가 한 적 없는 농담이나 정치적 메시지가 자기 이름을 달고 SNS에 퍼질 수 있는 거죠. 미국 저작권법에는 저작권 관리 정보(CMI)를 허위로 붙이거나 함부로 지우는 걸 문제 삼는 조항(DMCA 1202조)이 있어서, 이런 사례가 법적으로 어떻게 다뤄질지도 지켜볼 부분이에요.
업계는 어떻게 막고 있나
지금 AI 회사들의 방어선은 크게 세 겹이에요. 첫째는 입력 단계에서 거절하는 거예요. OpenAI는 살아 있는 작가의 스타일을 콕 집어 요청하면 거절하는 정책을 밝힌 적이 있어요. 둘째는 출력 단계 필터예요. 생성된 이미지에서 글자를 인식해서 알려진 서명이나 로고랑 비교하는 방식이죠. 셋째는 출처 표시예요. C2PA 같은 콘텐츠 인증 메타데이터나 구글 SynthID 같은 눈에 안 보이는 워터마크로 'AI가 만든 이미지'라는 걸 기록해두는 거예요.
그런데 작가 이름을 넣지 않고 '뉴요커 스타일'처럼 매체 이름만 요청해도 실존 작가의 서명이 나온다면, 입력 필터만으로는 부족하다는 얘기가 돼요. 메타데이터 방식도 스크린샷 한 번이면 사라진다는 한계가 있고요.
한국 개발자에게 주는 시사점
한국에서는 2026년 1월부터 AI 기본법이 시행되면서 생성형 AI 결과물에 표시 의무가 생겼어요. 서비스에 이미지 생성 기능을 붙였다면 'AI 생성' 표시는 기본이고, 거기서 더 나아가 출력물에 실존 인물의 이름이나 서명, 상표가 섞여 나오지 않는지 점검하는 장치도 고민해야 해요. 생성 결과에 OCR을 돌려서 텍스트를 검사하거나, 알려진 서명과 로고를 블록리스트로 관리하거나, 사용자 신고 기능을 만드는 것부터 시작해볼 수 있어요.
특히 한국은 웹툰 강국이라 남의 일이 아니에요. 웹툰 업계에서도 AI 생성 작품을 두고 반발이 여러 번 있었는데, 작가 서명이나 플랫폼 워터마크까지 복제되는 일이 생기면 갈등이 훨씬 커질 거예요.
마무리
한 줄 정리: 모델은 '스타일'과 '서명'을 구분하지 못해요. 그 구분은 시스템을 만드는 사람이 해줘야 해요.
여러분은 이런 문제의 책임이 누구한테 가장 크다고 보세요? 모델을 만든 회사, 그 모델로 서비스를 만든 개발자, 프롬프트를 입력한 사용자 중에서요. 그리고 화풍 모방은 어디까지 괜찮다고 생각하세요?
🔗 출처: Hacker News