[심층분석] Claude가 자꾸 똥을 그려요: AI 이미지 생성의 '이상한 편향' 이야기

어쩌다 AI가 자꾸 똥을 그리게 됐을까?

안녕하세요, DayCraft 에디터예요. 오늘은 좀 웃기면서도 곰곰이 생각해볼 만한 이야기를 들고 왔어요. Reddit의 r/ClaudeAI 커뮤니티에 올라온 "Claude Design keeps drawing a turd"라는 글인데요. 번역하면 "Claude Design이 자꾸 똥을 그려요" 정도가 되겠네요. 제목만 봐도 피식 웃음이 나오는데, 사실 이 안에는 AI 이미지 생성 모델이 가진 꽤 진지한 문제가 숨어 있거든요.

사연은 이래요. Anthropic이 최근에 'Claude Design'이라는 이미지·디자인 생성 기능을 강화하면서, 사람들이 다양한 디자인 작업을 시켜보고 있어요. 로고 만들기, 일러스트 그리기, UI 목업 뽑기 같은 것들이요. 그런데 어떤 사용자가 특정 프롬프트(명령어)를 입력했더니 자꾸만 똥 모양 이모지 같은 갈색 덩어리가 그려져서 나왔다는 거예요. 한 번이면 그냥 웃고 넘어갈 텐데, 여러 번 시도해도 비슷한 결과가 반복되니까 "이거 뭔가 이상하다" 하면서 사람들이 모여들기 시작한 거죠.

이게 단순히 "AI가 실수했네 ㅋㅋ" 하고 넘길 일이 아니에요. 왜냐하면 이런 현상은 AI 모델이 어떻게 학습되고, 어떤 식으로 "안전하게" 동작하도록 설계됐는지를 보여주는 중요한 단서거든요. 오늘은 이 똥 그림 사건을 통해서 AI 이미지 생성의 작동 원리, 그리고 우리가 평소에 잘 모르는 모델의 '편향(bias)' 문제를 같이 들여다 볼게요.

그래서 Claude Design이 뭔가요?

먼저 Claude Design이 뭔지부터 짚고 갈게요. 이게 뭐냐면, Anthropic이 Claude 모델에 붙인 일종의 디자인 어시스턴트 기능이에요. 텍스트로 명령을 내리면 SVG(벡터 이미지), HTML 목업, 일러스트 같은 시각적인 결과물을 만들어주는 거죠. 예를 들어 "파스텔 톤의 미니멀한 카페 로고를 만들어줘"라고 하면, 그에 맞는 디자인을 코드 형태로 뽑아주는 식이에요.

여기서 중요한 포인트가 하나 있어요. Claude Design은 우리가 흔히 아는 Midjourney나 DALL-E 같은 '픽셀 기반 이미지 생성 모델'과는 좀 달라요. 이 친구는 주로 코드를 작성해서 이미지를 만드는 방식을 써요. SVG라는 건 쉽게 말해 "원을 여기에, 사각형을 저기에 그려" 같은 명령어들로 이루어진 그림 파일이거든요. 그러니까 Claude는 사실 그림을 "그리는" 게 아니라 "코딩하는" 거예요.

이게 왜 중요하냐면, 똥 모양이 자꾸 나오는 이유가 바로 여기서 출발하기 때문이에요. SVG 코드로 "부드럽게 곡선을 그리며 위로 올라가는 갈색 덩어리"를 그리라고 하면, 자칫 잘못하면 정말로 똥 이모지 모양이 돼버리거든요. 예를 들어 누군가가 "커피 컵에서 김이 모락모락 올라오는 모습"을 그려달라고 했는데, 모델이 "갈색 + 둥글둥글 + 위로 솟은 형태"를 조합하다가 의도치 않게 똥 모양이 나와버리는 거예요.

AI는 왜 이런 실수를 할까?

자, 이제 본격적으로 "왜 이런 일이 생기는가"를 파헤쳐 볼게요. AI 이미지 생성 모델이 뭔가를 그릴 때는 학습 데이터에서 본 패턴을 조합해서 만들어요. 인터넷에 있는 수많은 이미지와 그에 달린 설명들을 학습했기 때문에, "갈색의 둥근 덩어리"라는 시각적 패턴은 모델 안에서 여러 가지 의미와 연결돼 있어요. 빵일 수도 있고, 바위일 수도 있고, 초콜릿일 수도 있고... 그리고 안타깝게도 똥 이모지일 수도 있는 거죠.

특히 똥 이모지(💩)는 인터넷에서 정말 자주 쓰이는 이미지예요. SNS, 밈, 채팅에서 빈번하게 등장하다 보니 학습 데이터에 엄청 많이 포함돼 있어요. 이걸 머신러닝 용어로 '데이터 편향(data bias)'이라고 해요. 이게 뭐냐면, 학습 데이터에 특정 패턴이 너무 많이 등장하면 모델이 그쪽으로 쏠려서 결과를 내는 현상이에요. 마치 우리가 매일 김치찌개만 먹다 보면 다른 찌개를 시켜도 김치찌개 맛이 떠오르는 것처럼요.

게다가 SVG처럼 단순한 도형으로 표현하는 형식에서는 이 문제가 더 심해져요. 픽셀 단위로 정교하게 그리는 게 아니라 "곡선 몇 개로 둥근 형태를 만든다"는 식으로 작업하다 보니, 디테일이 부족한 갈색 덩어리는 자연스럽게 똥 이모지의 단순화된 모양과 닮아갈 수밖에 없거든요.

코드로 이미지를 그린다는 것의 한계

여기서 한 발짝 더 들어가 볼게요. 왜 Claude는 픽셀 이미지가 아니라 코드로 이미지를 그리도록 설계됐을까요? 이유는 여러 가지가 있어요.

첫째, 편집 가능성이에요. SVG나 HTML로 만든 이미지는 나중에 코드를 수정해서 색상이나 크기를 자유롭게 바꿀 수 있어요. 디자이너 입장에서는 PNG 파일 하나 받는 것보다 훨씬 활용도가 높죠.

둘째, 저작권과 안전성 문제예요. 픽셀 기반 이미지 생성 모델은 학습 데이터에 있던 실제 이미지를 거의 그대로 복제해버리는 경우가 종종 있어요. 그러면 저작권 분쟁이 생길 수 있죠. 반면에 SVG 코드로 도형을 조합해서 그리는 방식은 이런 위험이 훨씬 적어요.

셋째, Claude의 강점이 코드 생성이라는 점이에요. Anthropic은 처음부터 Claude를 텍스트와 코드를 잘 다루는 모델로 키워왔어요. 그러니까 "이미지를 그려"라는 요청이 들어오면, 가장 자신 있는 방식인 "코드로 이미지를 표현하기"로 접근하는 거예요.

근데 이 방식에는 명확한 한계가 있어요. 픽셀 모델은 "커피잔에서 김이 올라오는 사진"을 그릴 수 있지만, 코드 기반 모델은 그런 복잡한 묘사를 단순한 도형으로 추상화해야 해요. 그러다 보면 의도와 다른 형태가 나오기 쉬운 거죠. 똥 그림 사건은 이런 한계를 아주 코믹하게 보여준 사례예요.

다른 AI들은 어떻게 다를까?

그럼 비교를 해볼게요. 같은 "커피잔에서 김이 올라오는 그림"을 다른 AI들에게 시키면 어떻게 될까요?

• Midjourney: 픽셀 기반의 디퓨전 모델이에요. 디퓨전이 뭐냐면, 처음에 노이즈(지지직거리는 화면)에서 시작해서 점점 형태를 다듬어가는 방식이에요. 결과물이 굉장히 사실적이고 예술적이지만, 코드로 편집할 수는 없어요.
• DALL-E 3: OpenAI의 이미지 모델인데, ChatGPT와 통합돼서 자연어 이해력이 좋아요. 프롬프트를 알아서 다듬어서 그려주는 게 강점이에요.
• Stable Diffusion: 오픈소스라서 누구나 자기 컴퓨터에서 돌릴 수 있어요. 커스터마이징이 자유로운 대신 결과물 품질은 사용자 설정에 따라 천차만별이에요.
• Claude Design: 코드 기반이라 편집 가능하고 안전하지만, 복잡한 사실적 이미지는 어려워요.

한국 개발자가 얻을 수 있는 교훈

자, 이제 이 사건이 우리에게 주는 시사점을 정리해볼게요.

1. AI 도구는 "용도"를 보고 골라야 해요. 모든 AI가 모든 걸 다 잘하는 게 아니거든요. 사이드 프로젝트 로고를 빠르게 뽑고 싶다면 Midjourney가 낫고, 웹사이트에 들어갈 SVG 아이콘을 코드 단위로 다루고 싶다면 Claude Design이 좋아요. 작업 종류에 맞게 도구를 골라 쓰는 안목이 점점 더 중요해지고 있어요.

2. 프롬프트 엔지니어링의 중요성을 다시 생각하게 돼요. 똥 그림이 자꾸 나온다면, 프롬프트를 더 구체적으로 써주는 게 해결책이 될 수 있어요. "갈색 덩어리" 대신 "매끄러운 표면의 머그컵, 카푸치노 색상의 원통형"처럼 말이죠. AI를 잘 쓰려면 결국 "AI가 이해하기 쉬운 언어로 말하는 법"을 익혀야 해요.

3. AI의 한계를 솔직하게 인정하는 문화가 필요해요. 이번 사건에서 흥미로운 건 Anthropic 사용자들이 이 문제를 숨기지 않고 공개적으로 공유했다는 점이에요. 우리나라 개발 문화에서도 "우리 서비스 이런 점이 부족해요" 하고 솔직하게 공유하는 분위기가 더 퍼졌으면 좋겠어요. 그래야 같이 개선할 수 있으니까요.

4. 실무에 적용할 때는 검수가 필수예요. AI가 만든 이미지를 클라이언트에게 그대로 전달하면 큰일 나요. 똥 그림 같은 황당한 결과가 섞여 있을 수 있거든요. 항상 사람의 눈으로 한 번 확인하고 넘기는 프로세스를 만들어두세요.

앞으로의 전망

이번 사건은 작은 해프닝처럼 보이지만, AI 이미지 생성 분야가 아직 갈 길이 멀다는 걸 보여줘요. 특히 코드 기반 이미지 생성은 이제 막 본격화되는 영역이에요. 앞으로 Anthropic을 비롯한 여러 회사들이 이런 "의도치 않은 결과"를 줄이기 위한 방법을 계속 연구할 거예요. 학습 데이터를 정제하거나, 프롬프트를 자동으로 개선하거나, 결과물을 한 번 더 검증하는 단계를 넣는 식으로요.

그리고 우리 개발자 입장에서도, 이런 도구들을 어떻게 똑똑하게 활용할지 고민이 필요해요. AI는 마법 지팡이가 아니에요. 잘 쓰면 엄청난 생산성 도구가 되지만, 무작정 믿고 쓰면 똥 그림이 클라이언트 메일로 날아가는 사고가 날 수도 있거든요.

여러분의 경험은요?

혹시 여러분도 AI 이미지 생성 도구를 쓰다가 황당한 결과를 받아본 적 있나요? 어떤 프롬프트를 입력했을 때 가장 엉뚱한 그림이 나왔는지, 그리고 그걸 어떻게 해결했는지 댓글로 공유해주세요. 또 SVG 같은 코드 기반 이미지 생성과 픽셀 기반 이미지 생성 중에 여러분은 어느 쪽이 실무에 더 유용하다고 느끼시나요? 함께 이야기 나눠봐요.