물웅덩이로 돌진하는 자율주행차? 웨이모가 3,800대를 긴급 업데이트한 이유

자율주행차가 의외로 못 하는 일

구글 모회사 알파벳의 자회사인 웨이모(Waymo)가 운영 중인 로보택시 3,800대에 대해 소프트웨어 리콜(이라기보단 정확히는 OTA 업데이트, 즉 인터넷으로 차에 새 소프트웨어를 내려보내는 방식)을 실시했어요. 이유가 좀 의외인데요, 차들이 길에 고인 물웅덩이로 그냥 돌진하는 경향이 있었기 때문이에요. 인간 운전자라면 "어 저기 물 많이 고였네, 돌아가야지" 하고 자연스럽게 피하잖아요. 그런데 웨이모 차들은 그 "당연한" 판단을 잘 못 했던 거예요.

웨이모는 미국 도로교통안전국(NHTSA)에 자발적으로 이 사실을 보고했고, 1월부터 4월까지 약 4개월간 발생한 관련 사례들을 추적했다고 해요. 다행히 큰 사고로 이어진 경우는 없었지만, 차량 하부에 물이 튀거나 잠시 주행에 영향을 받은 사례들이 있었던 거죠. 자율주행 업계에서는 이번 일을 "자율주행이 처리하기 어려운 코너 케이스(corner case)의 전형"이라고 부르고 있어요.

왜 자율주행차는 물웅덩이를 못 알아볼까

이게 의외로 어려운 문제예요. 사람이 물웅덩이를 알아보는 건 직관적이지만, 차에 달린 센서 입장에서는 꽤 까다롭거든요. 자율주행차의 주요 "눈"은 세 가지예요. 라이다(LiDAR), 카메라, 레이더(Radar).

라이다는 레이저를 쏴서 그게 튕겨 돌아오는 시간으로 거리를 재는 장치예요. 그런데 물 표면은 좀 까다로워요. 잔잔한 물은 라이다 빛을 거울처럼 반사해서 "여기 아무것도 없네" 또는 "바닥이 한참 멀리 있네"라고 잘못 인식할 수 있어요. 또 어떤 각도에서는 빛이 물 속으로 들어가버려서 신호가 약하게 돌아오기도 하고요.

카메라는 어떨까요. 카메라는 색과 텍스처로 물을 인식할 수 있지만, 조명이나 그림자 때문에 헷갈리기 쉬워요. 흐린 날의 젖은 아스팔트는 그냥 어두운 바닥처럼 보이거든요. 비 온 직후 햇빛이 비치면 물웅덩이가 거울처럼 하늘을 반사해서 "파란 하늘이 도로에 그려진" 듯한 이상한 영상이 들어오기도 해요. AI 모델이 이걸 "평소 본 적 없는 패턴"으로 처리해서 잘못된 판단을 내릴 수 있어요.

레이더는 전파를 쏘는 장치인데, 물체의 속도와 거리를 잘 잡지만 정지된 평평한 물 표면은 그냥 "바닥"과 구분하기 어려워요. 결국 세 가지 센서 모두 물웅덩이라는 특정 상황에서는 약점을 드러내는 거예요. 자율주행 엔지니어들 사이에서 "악천후(adverse weather)"가 가장 풀기 어려운 문제 중 하나로 꼽히는 이유가 여기 있어요.

OTA 업데이트의 의미

흥미로운 점은 이 문제를 "리콜"이라고 부르긴 하지만 실제로는 정비소에 차를 끌고 가는 게 아니라는 거예요. 웨이모는 차들을 충전소나 차고에 들어왔을 때 무선으로 새 소프트웨어를 깔아주는 방식으로 처리했어요. 테슬라가 처음 대중화한 OTA(Over-The-Air) 업데이트 방식이에요.

이게 자동차 산업에서는 꽤 혁신적인 변화예요. 예전에는 차에 문제가 있으면 모든 차주에게 "가까운 정비소로 와주세요"라고 통보해야 했잖아요. 비용도 많이 들고 시간도 오래 걸리고요. 그런데 OTA가 되면서 "오늘 밤 사이에 전국 차량 4천 대가 동시에 더 안전해지는" 게 가능해진 거죠. 반면에 "소프트웨어 한 줄 잘못 짜면 4천 대가 동시에 망가지는" 위험도 같이 커졌어요.

이번 업데이트의 구체적인 내용은 웨이모가 자세히 밝히진 않았지만, 업계 추측으로는 인지 모델(perception model, 센서 데이터를 보고 환경을 이해하는 AI)에 물웅덩이 클래스를 추가하거나, 비 온 후 시나리오에서 더 보수적으로 주행하도록 정책 모델(policy model)을 조정한 것으로 보여요. AI 모델 입장에서는 "본 적 없는 데이터로 학습시켜야 잘 인식한다"는 원칙이 있는데, 웨이모가 그동안 모은 코너 케이스 영상들을 학습 데이터에 추가했을 가능성이 높아요.

자율주행 업계의 큰 흐름

웨이모는 현재 미국 자율주행 로보택시 시장의 사실상 1위 사업자예요. 샌프란시스코, 피닉스, 로스앤젤레스, 오스틴 같은 도시에서 실제로 사람을 태우고 다니는 무인 택시 서비스를 하고 있고, 누적 주행거리가 수천만 마일에 달해요. 경쟁사로는 아마존이 인수한 죽스(Zoox), 테슬라의 로보택시 서비스, 중국의 위라이드(WeRide), 바이두의 아폴로 고(Apollo Go) 등이 있어요.

흥미로운 건 각 회사가 다른 접근법을 쓴다는 거예요. 웨이모는 라이다 중심의 "센서 잔뜩" 전략이고, 테슬라는 "카메라만으로 인간처럼 운전한다"는 비전 중심 전략이에요. 이번 물웅덩이 사건은 "센서가 많아도 못 잡는 케이스가 있다"는 걸 보여줬지만, 동시에 "문제를 자동으로 인지하고 빠르게 패치하는 능력"이 자율주행 사업의 핵심 역량이라는 것도 보여줬어요.

한국에서도 자율주행 시도가 활발해요. 현대차그룹의 모셔널이 미국에서 로보택시 서비스를 준비하고 있고, 카카오모빌리티나 토르드라이브 같은 회사들이 국내에서 시범 운행 중이에요. 서울 상암동이나 세종시에서 자율주행 셔틀 타본 분들도 계실 거예요.

한국 개발자에게 주는 시사점

자율주행 도메인에서 일하지 않더라도, 이 사건에서 배울 점이 많아요. 첫째, "코너 케이스가 진짜 어렵다"는 점이에요. 평소 잘 돌아가는 시스템이 어쩌다 한 번 마주치는 특이 상황에서 무너지는 게 머신러닝 시스템의 고질병이거든요. 우리가 만드는 AI 서비스도 마찬가지예요. 챗봇이라면 "이상한 입력", 추천 시스템이라면 "신규 사용자나 신규 아이템", 이미지 분류라면 "훈련 데이터에 없던 카테고리". 이런 케이스를 어떻게 발견하고 처리할지가 시스템의 진짜 품질을 결정해요.

둘째, OTA 같은 "빠른 배포 능력"의 중요성이에요. 문제가 생겼을 때 며칠 안에 전체 사용자에게 수정사항을 배포할 수 있는 인프라가 있느냐 없느냐는 큰 차이예요. 이건 자동차뿐 아니라 IoT 기기, 모바일 앱, 심지어 서버 사이드 서비스에서도 마찬가지예요. 카나리 배포(일부 사용자에게 먼저 배포해보는 방식), 피처 플래그(기능을 코드 배포 없이 켜고 끄는 장치) 같은 도구들이 점점 중요해지는 이유예요.

셋째, 사고가 나기 전에 자발적으로 보고하는 문화의 가치예요. 웨이모는 이번 일을 큰 사고로 비화되기 전에 스스로 규제 당국에 알렸어요. 한국 IT 업계도 보안 사고나 장애가 났을 때 숨기지 않고 빠르게 공개하는 문화가 점점 자리 잡아가고 있는데, 이게 장기적으로는 신뢰를 쌓는 길이에요.

마무리

자율주행차가 물웅덩이를 무서워한다는 사실, 좀 귀엽기도 하고 한편으로는 "이런 것까지 가르쳐야 하는구나" 싶기도 하죠. AI가 인간의 직관을 따라잡으려면 아직 갈 길이 멀어요. 동시에 이런 코너 케이스 하나하나를 잡아가면서 시스템이 더 안전해지는 과정이기도 하고요.

여러분은 어떻게 생각하세요? 자율주행차가 언제쯤 비 오는 날에도 인간보다 잘 운전하게 될 것 같으세요? 그리고 여러분이 만든 시스템에서 "물웅덩이 같은" 의외의 약점, 혹시 기억나는 사례가 있으신가요?