자율주행, 이제 ‘안전’을 통째로 판다 — 엔비디아 헤일로스(Halos)

무슨 이야기냐면요

엔비디아 하면 GPU 만드는 회사로만 아시는 분 많을 텐데요. 사실 엔비디아는 오래전부터 자율주행차에 깊숙이 발을 담그고 있었어요. 자동차 안에 들어가는 AI 컴퓨터(DRIVE 플랫폼)를 여러 완성차 업체에 공급해 왔거든요. 이번에 정리해 발표한 헤일로스(Halos)는 그동안의 안전 관련 기술을 하나로 묶은 ‘자율주행 안전 종합 시스템’이에요. 칩 하나, 소프트웨어 하나를 파는 게 아니라 ‘안전’이라는 개념 전체를 하나의 패키지로 제공하겠다는 선언이죠.

자율주행에서 ‘안전’이 왜 그렇게 어려울까요

사람이 운전할 때는 처음 보는 상황도 직관으로 대처하잖아요. 그런데 AI는 학습한 적 없는 상황(이걸 엣지 케이스, edge case라고 해요. 예: 도로에 갑자기 굴러온 매트리스, 역주행하는 자전거)에서 엉뚱한 판단을 할 수 있어요. 자동차는 한 번의 오판이 곧 사고로 이어지니까, ‘대부분 잘한다’로는 부족하고 ‘거의 절대 실수하면 안 된다’ 수준의 보증이 필요해요. 그래서 자동차 업계엔 기능 안전(Functional Safety)이라는 까다로운 국제 표준(ISO 26262 같은 것)이 있고, 부품 하나가 고장 나도 시스템이 안전하게 멈추도록 이중·삼중 장치를 깔아둬요. 문제는 이걸 ‘AI의 판단’에까지 적용하기가 굉장히 어렵다는 거예요.

헤일로스가 묶어주는 것들

헤일로스는 크게 세 단계를 한 줄로 꿰요. 첫째는 칩과 하드웨어 단의 안전이에요. 자율주행 컴퓨터가 오작동을 스스로 감지하고, 한쪽이 고장 나도 다른 쪽이 받아주는 이중화(redundancy) 설계를 칩 레벨부터 넣었어요. 둘째는 AI의 행동을 통제하는 가드레일(guardrail)이에요. 이게 뭐냐면, AI 운전 모델이 물리적으로 말이 안 되거나 위험한 결정을 내리려 할 때 그걸 걸러내고 안전한 행동으로 되돌리는 일종의 ‘안전 울타리’ 소프트웨어예요. 셋째는 출시 전 검증이에요. 엔비디아가 ‘AI 시스템 검사 연구소(AI Systems Inspection Lab)’를 두고, 협력사 차량의 자율주행 안전성을 시뮬레이션과 실측으로 점검해 주거든요.

업계 흐름에서 보면

자율주행 안전을 풀어가는 방식은 회사마다 달라요. 모빌아이(Mobileye)는 RSS라는 수학적 안전 모델로 ‘이 거리에선 이렇게 행동하면 사고 책임이 없다’를 공식처럼 정의해요. 웨이모(Waymo)는 칩부터 운영까지 전부 직접 만들어 통제하고요. 테슬라는 카메라만으로 끝까지 학습시키는 방식을 밀고 있죠. 엔비디아 헤일로스의 포지션은 좀 달라요. 특정 완성차 업체 편이 아니라, 누구나 가져다 쓸 수 있는 중립적인 안전 플랫폼을 지향해요. 자율주행 기술은 있지만 안전 검증 노하우는 부족한 후발 주자나 스타트업한테 특히 매력적인 제안이죠.

한국 개발자·업계에게 주는 시사점

자율주행은 현대차·기아를 비롯해 국내에도 스타트업이 많은 분야예요. 헤일로스 같은 플랫폼이 보편화되면, 모든 회사가 안전 인프라를 바닥부터 직접 만들 필요 없이 검증된 기반 위에서 차별화에 집중할 수 있게 돼요. 그리고 여기서 눈여겨볼 더 큰 키워드는 ‘AI 안전 검증’이에요. 자율주행뿐 아니라 의료, 로봇, 금융 등 AI가 실제 위험을 다루는 모든 분야에서 ‘이 AI가 안전하다는 걸 어떻게 증명할 것인가’가 핵심 직무로 떠오르고 있거든요. 기능 안전, SOTIF(의도된 기능의 안전), AI 모델 검증 같은 키워드는 백엔드·임베디드·ML 어느 쪽이든 알아두면 분명 쓸모 있어요.