온라인 스포츠 베팅 기업 DraftKings가 손실을 볼 가능성이 높은 이용자를 인공지능으로 선별해 다시 베팅하도록 유도하고 있다는 사실이 뉴욕타임스 보도를 통해 알려졌다. 전자프런티어재단(EFF)은 이를 온라인 행동 기반 광고(behavioral advertising)의 해악이 AI로 증폭된 대표적 사례로 지목했다. 행동 기반 광고란 기업이 수집한 이용자 데이터를 근거로 개인 맞춤형 광고를 노출하는 방식으로, 보유 데이터가 많을수록 광고는 더 정교해진다. EFF는 오래전부터 이런 행동 광고 자체를 전면 금지해야 한다는 입장을 유지해 왔다.
손실 이용자를 겨냥하는 머신러닝
보도에 따르면 DraftKings는 고객의 베팅 기록을 학습 데이터로 삼아, 돈을 잃는 도박꾼을 찾아내는 머신러닝 모델을 훈련시켰다. 모델이 대상을 식별하면 기업은 이들을 사이트로 다시 끌어들이는 표적 광고를 발송한다. 그리고 그 베팅은 회사가 판단하기에 다시 손실로 이어질 가능성이 높은 것들이다. 구조 자체가 단순하지만 냉정하다. 손실을 보는 이용자가 곧 DraftKings의 실질적 수익원이기 때문에, 이들을 반복적으로 사이트로 복귀시키는 것이 회사의 사업적 이익과 정확히 일치한다.
문제는 이 모델이 겨냥하는 집단이 이른바 '문제성 도박자', 즉 자신과 재정, 인간관계에 해를 입으면서도 도박을 반복하는 사람들과 크게 겹친다는 점이다. 취약한 이용자일수록 모델의 표적이 될 확률이 높고, 기업은 이들의 위험을 완화하기보다 그 취약성을 수익화하는 방향으로 재접속을 유도한다. 이용자 보호 장치를 강화하는 것이 아니라, 반대로 가장 위태로운 사람을 겨냥해 재참여를 설계하는 셈이다.
AI가 증폭시키는 감시 데이터 경제
약탈적 행동 광고 자체는 새로운 현상이 아니다. 그러나 AI가 데이터 처리와 표적화에 결합되면서 그 해악의 규모가 달라졌다. 행동 광고는 광고 기술을 굴리기 위해 방대한 데이터 수집을 유인하는데, 여기에 AI가 더해지면 모델을 훈련하고 정교화하기 위해 더 많은 데이터가 필요해진다. AI 모델은 블랙박스로 작동하기 때문에, 만드는 사람조차 어떤 데이터가 가장 유용한지 예측하기 어렵고, 이 불확실성이 오히려 무제한적인 데이터 축적을 부추긴다. 동시에 AI는 거대한 데이터셋을 훨씬 빠르게 처리해 표적화의 효율을 끌어올린다.
이렇게 쌓인 데이터는 광고에만 머물지 않는다. 광고 배치를 위해 수집된 데이터가 보험사, 은행, 그리고 미국 관세국경보호청(CBP)을 비롯한 주·연방 법 집행기관에까지 판매되면서 감시 산업의 연료로 쓰인다. 이민세관단속국(ICE) 역시 올해 상업용 빅데이터 및 광고 기술 사업자가 수사 활동을 어떻게 직접 지원할 수 있는지 파악하겠다며 정보요청서(RFI)를 공개했다. 광고 생태계가 사실상 국가 감시의 데이터 파이프라인 역할을 하고 있는 것이다.
한국 실무자에게 남는 시사점
주목할 대목은 DraftKings가 제3자에게서 데이터를 사들이지 않고 '자사 수집 데이터(first-party data)'만으로 이 모델을 돌리는 것으로 보인다는 점이다. 이는 제3자 데이터 공유와 판매만 규제하는 정책으로는 이런 약탈적 광고를 막을 수 없음을 보여준다. 국내에서도 개인정보 규제 논의가 흔히 데이터 '거래'와 제3자 제공에 초점을 맞추지만, 기업이 직접 모은 데이터만으로도 취약 이용자 표적화가 가능하다는 사실은 규제 설계의 사각지대를 드러낸다. EFF가 데이터 판매 제한이 아니라 행동 광고 자체의 금지를 주장하는 이유도 여기에 있다.
서비스를 기획·운영하는 실무자 입장에서 이 사례는 추천·리텐션 알고리즘이 언제든 이용자 착취 도구로 전환될 수 있음을 상기시킨다. '재참여 유도'라는 지표가 조직 내부에서는 중립적인 성과처럼 보이지만, 그 대상이 취약 집단으로 수렴할 때 어떤 결과를 낳는지 DraftKings 사례가 보여준다. 다만 이 보도는 모델의 정확도나 실제 피해 규모를 구체적 수치로 밝히지 않았고, 회사 측의 해명도 담겨 있지 않다는 한계가 있다. EFF는 이용자 보호책으로 자사의 '감시 자기방어(Surveillance Self-Defense)' 프로젝트와 모바일·웹 환경에서 데이터를 지키는 방법을 안내하고 있으나, 개인의 방어만으로 구조적 유인을 제거하기는 어렵다는 점 역시 분명하다.