물웅덩이로 돌진하는 웨이모, 자율주행이 아직 못 푼 진짜 문제

무슨 일이 벌어졌나

구글 모회사 알파벳 산하의 자율주행 택시 서비스 웨이모(Waymo)가 애틀랜타 지역 서비스를 일시 중단했어요. 이유가 좀 황당한데요, 폭우로 도로가 침수됐을 때 로보택시들이 그 침수된 도로로 그냥 들어가버리는 사고가 반복됐기 때문이에요. 사람 운전자라면 "어, 저기 물 고였네, 돌아가자" 하고 피할 상황을, 차가 그냥 직진해서 엔진까지 물에 잠기는 일이 여러 건 발생한 거죠.

웨이모는 지난 몇 년간 샌프란시스코, 피닉스, LA, 오스틴 같은 도시에서 무사고 운행 기록을 쌓아왔고, 누적 주행거리도 수억 마일을 넘었어요. 그런데 애틀랜타는 진출한 지 얼마 안 된 신규 도시인데다, 미국 남동부 특유의 갑작스러운 호우 패턴이 자주 나타나는 곳이거든요. 결국 "우리가 학습시킨 환경과 실제 운영 환경의 갭"이 드러난 사례입니다.

기술적으로 뭐가 문제일까

자율주행차의 인식 시스템은 보통 카메라, 라이다(LiDAR, 레이저로 거리를 재는 센서), 레이더 세 가지를 조합해서 주변을 파악해요. 그런데 도로 위에 고인 물은 이 센서들에게 굉장히 까다로운 대상이에요.

라이다는 레이저를 쏴서 반사돼 돌아오는 시간으로 거리를 재는데, 물 표면이 매끄러우면 빛이 거울처럼 반사돼서 엉뚱한 방향으로 튀어버려요. 결과적으로 "여기는 평평한 도로다"라고 잘못 판단할 수 있죠. 카메라는 비 오는 밤이라면 물 표면이 도로 표면과 색깔이 비슷해 보이고, 야간 조명 아래선 그냥 젖은 아스팔트인지 깊은 웅덩이인지 구분이 안 갑니다. 레이더는 금속 같은 큰 물체엔 강한데, 물의 깊이는 못 잽니다.

게다가 자율주행 시스템은 보통 HD맵(고정밀 지도)을 미리 만들어두고 그 위에서 동작해요. "이 차선은 여기, 신호등은 저기"가 다 입력돼 있는데, 침수는 그 지도에 없는 일시적 변화예요. 그래서 "지도상 이 도로는 통행 가능"이라는 정보를 그대로 따라가면 물웅덩이로 직진하게 됩니다.

사람 운전자와 뭐가 다른가

사람은 도로가 평소와 "뭔가 달라 보이면" 본능적으로 속도를 줄여요. 앞차가 물보라를 일으키는 모습, 길가에 모인 빗물의 흐름, 공기 중의 습한 느낌까지 종합해서 판단하거든요. 이런 상황적 추론이 아직 AI가 가장 약한 부분이에요.

물론 웨이모도 비전-언어 모델(VLM)을 통합하면서 "앞 도로 상황을 설명하고 대처법을 추론하는" 능력을 강화하고 있긴 해요. 그런데 학습 데이터에 "애틀랜타의 5월 호우로 인한 침수 도로"가 충분히 있었느냐가 문제죠. 흔치 않은 엣지 케이스는 시뮬레이션으로 메우려고 하지만, 진짜 물리적 침수의 시각적 패턴을 완벽히 재현하긴 쉽지 않아요.

업계 맥락

자율주행 업계에서는 이런 사건이 처음이 아니에요. 테슬라 FSD도 비 오는 날 차선 인식이 흔들리는 사례가 자주 보고됐고, 크루즈는 보행자를 끌고 간 사고 이후 사실상 사업을 접었습니다. 중국 바이두 아폴로 고는 우한, 베이징에서 운영 중이지만 폭우 시엔 자동으로 운행을 멈추는 정책을 운영해요.

결국 자율주행의 진짜 도전은 "드물지만 치명적인 상황(롱테일)"을 어떻게 처리하느냐예요. 99%의 일상 운전은 잘하지만, 1%의 예외 상황에서 안전하게 멈출 줄 알아야 진짜 상용화가 됩니다. 웨이모가 "문제 생기니까 일단 그 도시 서비스 중단"이라고 결정한 건, 사실은 책임감 있는 대응이에요. 무리해서 운영하다 사상자라도 나오면 산업 전체가 후퇴하니까요.

한국 개발자에게 시사하는 것

국내에서도 현대차, 카카오모빌리티, 라이드플럭스 등이 자율주행에 진심인데요, 한국은 미국보다 도로 환경이 훨씬 복잡합니다. 좁은 골목, 갑작스러운 보행자, 오토바이 배달, 그리고 여름 장마철의 침수까지. 미국에서 검증된 모델이 한국에 그대로 오면 더 큰 문제를 겪을 가능성이 높아요.

또 AI 시스템을 만드는 입장에서 보면, 이건 자율주행만의 문제가 아닙니다. "학습 데이터 분포 밖의 상황(out-of-distribution)"을 안전하게 처리하는 능력은 모든 ML 서비스에 필요해요. 챗봇이든 추천 시스템이든, 평소엔 잘 동작하다가 예외적인 입력이 들어왔을 때 이상한 답을 내놓지 않게 하는 안전장치를 어떻게 설계할지가 핵심이죠.