"AI FOMO 좀 그만" - Domo 최고데이터책임자가 천천히 가자고 말하는 이유

모두가 뛸 때 한 사람은 멈춰서 묻는다

요즘 어딜 가나 AI 얘기예요. 경영진은 '우리도 AI 안 하면 뒤처진다'며 압박하고, 개발자들은 일주일마다 새로 나오는 모델과 프레임워크에 숨이 찰 정도죠. 이런 분위기를 흔히 FOMO(Fear Of Missing Out, 뒤처지는 것에 대한 두려움)라고 부르는데요, 데이터 분석 플랫폼 Domo의 최고데이터책임자(CDO)가 이런 흐름에 대해 "좀 천천히 가자"고 공개적으로 말해서 눈길을 끌고 있어요.

그의 메시지는 단순해요. AI 도입을 안 하자는 게 아니라, 무작정 도입하면 오히려 망한다는 거예요. 'slow-mo(슬로우 모션)'라는 표현을 썼는데, 빨리 뛰는 척하다 넘어지지 말고, 의식적으로 한 박자 늦춰서 제대로 가자는 뜻이죠.

왜 빠른 도입이 위험할까

CDO가 지적한 문제는 크게 세 가지예요. 첫째는 데이터 기반(data foundation)이 없는 상태에서의 AI 도입이에요. AI 모델은 데이터를 먹고 자라는 생물 같은 거라, 회사 데이터가 여기저기 흩어져 있고 품질이 들쭉날쭉하면 아무리 좋은 모델을 가져와도 "쓰레기를 넣으면 쓰레기가 나온다(garbage in, garbage out)"는 옛말 그대로가 돼요. 많은 기업이 ChatGPT 같은 걸 회사 데이터에 연결만 하면 마법이 일어날 거라고 기대하지만, 실제로는 데이터 카탈로그, 거버넌스, 품질 검증부터 다시 깔아야 하는 경우가 대부분이에요.

둘째는 거버넌스(governance, 통제와 책임 체계)의 부재예요. 마케팅팀이 한 도구를 쓰고, 영업팀이 다른 도구를 쓰고, 개발팀은 또 다른 걸 쓰는데 그 안에 들어가는 고객 데이터가 어디로 흘러가는지 아무도 추적 못 하는 상황이 벌어져요. 이건 GDPR이나 한국의 개인정보보호법 관점에서도 시한폭탄이고, 보안팀이 알게 되면 한바탕 난리가 나죠.

셋째는 ROI 검증 없는 PoC의 무한 반복이에요. 'AI로 뭐든 해봅시다'식 프로젝트가 6개월씩 돌다가 "그래서 매출이 얼마나 늘었나요?" 같은 질문이 나오면 답을 못 하는 경우가 많아요. CDO는 도입 전에 측정 가능한 비즈니스 지표를 먼저 정의하고, 그 지표를 움직일 수 있는 명확한 시나리오부터 작은 규모로 검증해야 한다고 말해요.

천천히 간다는 게 정확히 뭘까

그가 말하는 'slow-mo'는 게으름이 아니에요. 의도적인 속도 조절이에요. 예를 들면 이런 거죠. 새로운 LLM이 나왔다고 바로 프로덕션에 꽂는 대신, 먼저 내부 데이터로 평가 벤치마크를 만들어요. 우리 회사 도메인에서 모델이 얼마나 정확한지, 환각이 얼마나 발생하는지, 비용은 어떻게 되는지를 숫자로 본 다음 결정하는 거예요. 또 핵심 업무 프로세스에 적용하기 전에 사이드 프로젝트 같은 저위험 영역에서 실험을 돌려서 실제로 사람이 일하는 방식이 어떻게 바뀌는지 관찰해요.

흥미로운 건 이런 'slow-mo' 진영이 점점 늘고 있다는 점이에요. McKinsey나 Gartner의 최근 리포트를 봐도, 무리한 AI 도입으로 인한 프로젝트 실패율이 70%를 넘는다는 통계가 자주 등장해요. 반면 데이터 인프라부터 차근차근 다진 회사들은 도입 속도는 느려도 1년 뒤 ROI가 훨씬 높았다는 사례가 쌓이고 있어요.

한국 개발자에게 주는 시사점

많은 분이 "우리 팀장님이 갑자기 AI 도입하라고 한다"는 상황에 놓여 있을 거예요. 이때 무작정 코파일럿 깔고 LangChain 붙이는 것보다, 먼저 "우리가 가진 데이터가 정말 AI에 먹일 수 있는 상태인가?"를 점검해보세요. 데이터 파이프라인이 깨져 있거나, 스키마가 통일되어 있지 않거나, PII(개인식별정보) 마스킹 정책이 없다면 그것부터 정리하는 게 결과적으로는 훨씬 빠른 길이에요.

그리고 작게 시작하는 것도 중요해요. 전사 도입 같은 거창한 그림 말고, '고객 문의 분류 자동화' 같은 좁고 측정 가능한 영역 하나를 골라서 "정확도 X% 이상, 비용 Y원 이하, 응답 시간 Z초 이내"를 미리 정의하고 검증하면 의사결정이 훨씬 명료해져요.