무슨 일이 있었나요
미국의 디지털 인권 단체 EFF(전자프런티어재단)가 미국 최대 온라인 스포츠 베팅 업체 중 하나인 DraftKings를 비판하는 글을 냈어요. 제목 그대로, DraftKings가 AI를 이용해 온라인 행동 기반 광고(behavioral advertising)의 해악을 더 키우고 있다는 내용이에요. 특히 도박을 반복적으로, 오래 하는 사람들이 타깃이 될 수 있다는 점을 문제 삼아요.
미국은 2018년 연방 대법원 판결 이후 주마다 스포츠 베팅을 합법화하기 시작했어요. 그 뒤로 온라인 베팅 시장이 폭발적으로 커졌고, 광고와 프로모션 경쟁도 엄청나게 치열해졌어요. 그 경쟁에 AI가 들어오면서 이야기가 한층 더 불편해진 거죠.
행동 기반 광고, 이게 뭐냐면
행동 기반 광고는 내가 무엇을 봤고, 언제 접속했고, 무엇을 샀는지 같은 행동 기록을 모아서 광고를 맞춤으로 보여주는 방식이에요. 운동화를 한 번 검색했더니 며칠 동안 운동화 광고가 따라다니는 경험, 다들 있으시죠? 그게 바로 행동 기반 광고예요.
운동화라면 조금 귀찮은 정도로 끝나요. 그런데 도박에서는 얘기가 달라져요. 도박 앱이 모을 수 있는 데이터를 떠올려볼까요.
- 새벽에 접속하는 빈도가 늘었는지
- 크게 잃은 직후 바로 다시 베팅하는지(이른바 손실 추격, loss chasing)
- 입금 금액이 점점 커지는지
- 한동안 안 들어오다가 보너스 알림을 받고 돌아왔는지
- 모바일 게임의 ‘고래(whale)’ 탐지: 과금을 많이 하는 소수 유저를 찾아내 맞춤 패키지를 들이미는 방식이에요.
- 단기 대출 앱: 급전이 필요한 사람의 신호를 포착해서 고금리 상품을 먼저 보여줘요.
- 소셜 미디어 추천 알고리즘: 체류 시간을 최적화하다가 취약한 사용자를 더 깊이 끌어들여요.
- 자가 제한이나 휴식 기능을 켠 사용자는 마케팅 모델 대상에서 아예 빼기
- 손실 추격 패턴이 감지되면 프로모션 대신 쿨다운 안내 보내기
- 특징(feature)에 새벽 접속 같은 취약성 신호가 들어가 있는지 리뷰하기
이런 신호는 정신건강 전문가가 보면 도박 문제의 경고 신호예요. 그런데 매출을 올리려는 머신러닝 모델 입장에서는 ‘가장 가치가 높은 고객’의 특징이 되기 쉬워요. 이게 핵심 문제예요.
AI가 붙으면 뭐가 달라질까요
예전에는 사람이 대략적인 규칙으로 고객을 나눴어요. 예를 들면 ‘한 달에 100만 원 이상 입금한 사람’처럼요. 지금은 ML 모델이 수백 가지 행동 신호를 조합해서 고객 생애 가치(LTV, Lifetime Value), 즉 이 사람이 앞으로 얼마나 돈을 쓸지를 예측하고, 이탈 확률(churn), 즉 이 사람이 떠날 가능성도 계산해요.
일반 쇼핑몰이라면 흔한 마케팅 기법이에요. 그런데 도박에서 ‘LTV가 높다’는 건 대개 ‘많이 잃을 사람’이라는 뜻이에요. ‘이탈하려 한다’는 신호가 사실은 ‘끊으려고 애쓰는 중’일 수도 있고요. 그 순간에 모델이 맞춤 보너스를 쏴준다면, 끊으려던 사람을 다시 끌어당기는 셈이 되죠. AI는 누가 취약한지를 사람보다 훨씬 정확하고 빠르게, 대규모로 찾아낼 수 있어요. EFF가 ‘해악을 증폭한다’고 표현하는 것도 그래서예요.
업계 맥락: 이건 도박만의 문제가 아니에요
EFF는 오래전부터 행동 기반 광고 자체를 금지해야 한다는 입장이었어요. 도박 사례는 그 주장을 가장 극적으로 보여주는 예시일 뿐이에요. 비슷한 구조는 다른 곳에도 많아요.
공통점은 최적화 목표(KPI)가 사용자 이익과 정반대 방향이라는 거예요. 모델은 자기가 해를 끼치고 있다는 사실을 모르고, 그저 지표를 열심히 올릴 뿐이에요.
한국 개발자에게 주는 시사점
한국에서는 스포츠토토 같은 일부 사행산업을 빼면 온라인 스포츠 도박이 불법이에요. 그래서 DraftKings 같은 업체가 직접 들어올 일은 없어요. 그래도 이 이야기를 남의 일로 보기는 어려워요.
첫째, 게임과 핀테크 업계와 바로 닿아 있어요. 국내에서도 확률형 아이템 정보 공개가 의무화됐고, 전자상거래법 개정으로 다크 패턴(dark pattern), 그러니까 사용자를 속이거나 압박하는 UI 설계에 대한 규제도 시작됐어요. 과금 유도 모델이나 푸시 알림 타기팅을 만드는 분이라면 규제의 다음 대상이 ‘AI 기반 개인화’가 될 수 있다는 점을 염두에 두세요.
둘째, 모델 설계 단계에서 가드레일을 넣을 수 있어요. 예를 들어 이런 방법들이 있어요.
마무리
한 줄 정리: AI 타기팅은 중립적인 도구가 아니에요. 최적화 목표가 사용자에게 해롭다면, AI는 그 해악을 가장 효율적으로 실행하는 도구가 돼요.
여러분이 만드는 추천이나 타기팅 모델은 무엇을 최적화하고 있나요? 매출 지표와 사용자 보호가 부딪힐 때, 개발자가 목소리를 낼 수 있는 여지가 어디까지라고 생각하시는지 이야기 나눠봐요.
🔗 출처: Hacker News