라즈베리파이 5에 35B 로컬 AI를 태운 자동차 에이전트 'CarWatch'

오픈소스 개발자 Petrus Pennanen(ThinkOff)이 공개한 CarWatch는 자동차를 하나의 대화형 에이전트로 만드는 실험적 프로젝트다. 핵심 구성은 단순하다. 라즈베리파이 5(16GB, 약 300유로) 한 대를 차량에 상시 탑재하고, 그 위에서 350억 파라미터 규모의 로컬 언어 모델을 직접 구동한다. 이 파이는 사용자의 GroupMind 채팅방에 @gle 같은 이름으로 참여해, 다른 에이전트처럼 메시지를 보낸다. 출발과 도착 알림, 주행 요약, 그리고 무언가가 차에 부딪혔을 때의 대시캠 클립 같은 것들이다. 사용자는 휴대폰이나 스마트워치에서 CodeWatch를 통해 이 알림을 받고 승인하거나 답장할 수 있다. CarWatch는 손목 위 에이전트인 CodeWatch, 건강 모니터링용 ClawWatch, 위치 추적용 WhereWatch와 함께 thinkoff.io에 묶여 있는 'Watch' 제품군의 자동차 담당 형제 격이다.

네트워크 없이도 완결되는 설계

이 프로젝트에서 가장 눈여겨볼 지점은 아키텍처 철학이다. 개발자는 "로컬이 제품이고, 온라인은 부가 기능"이라고 못 박는다. 자동차는 차고, 터널, 신호가 잡히지 않는 시골 도로처럼 연결이 끊긴 환경에서 대부분의 시간을 보내기 때문에, 차량용 AI가 클라우드 API에 의존하는 순간 실사용성이 무너진다는 판단이다. 그래서 35B 모델을 굳이 서버가 아니라 파이 위에서 돌린다. 여기서 나오는 실무 규칙이 명확하다. 한눈에 확인해야 하는 안전 관련 정보는 절대 네트워크에 의존하지 않고, 반대로 사회적이거나 연산이 무거운 기능은 연결이 없을 때 '나중에'로 우아하게 미뤄진다. 온디바이스 추론이 저가 하드웨어에서도 현실적인 선택지가 되어가는 흐름을 감안하면, 이 우선순위 구분은 차량뿐 아니라 오프라인 우선 엣지 애플리케이션 전반에 적용할 만한 설계 원칙이다.

대시캠 연동이라는 현실의 벽

실제 구현 과정에서 드러나는 어려움도 솔직하게 기록되어 있다. 대표적인 것이 대시캠 연동이다. 사용하는 WOLFBOX 대시캠의 HTTP API가 문서화되어 있지 않아, 개발자는 carwatch-probe라는 별도 도구를 만들어 카메라가 응답하는 엔드포인트를 역으로 탐색한다. 파이를 대시캠의 와이파이 AP에 먼저 연결한 뒤, 알려진 대시캠 펌웨어의 엔드포인트 패턴을 훑어 실제로 응답하는 경로를 출력하고, 그 결과로 wolfbox.py에 비어 있던 TODO들을 채우는 방식이다. 문서 없는 하드웨어를 상대로 리버스 엔지니어링에 가까운 탐침을 해야 하는 이 과정은, 폐쇄적인 소비자 기기를 오픈소스 시스템에 붙이려 할 때 흔히 마주치는 벽을 그대로 보여준다. 배포와 운영 측면은 비교적 정돈되어 있어서, 자격 증명은 저장소가 아닌 /etc/carwatch/config.json에 두고, update.sh가 main 브랜치를 받아 새 systemd 유닛을 설치하고 서비스를 재시작하는 일을 타이머나 대시보드 버튼, 수동 실행으로 처리한다.

'증명됨'과 '만들어 테스트함'을 구분하는 정직성 정책

기술적 완성도만큼이나 이 프로젝트가 강조하는 것은 표현의 정직성이다. 개발자는 자체 정직성 정책을 두어, 한 기능은 실제 차량에서 작동한 뒤에야 '증명됨(proven)'으로 표기한다고 밝힌다. 코드가 실제 혹은 시뮬레이션된 상대와 엔드투엔드로 돌아가지만 아직 물리적인 차에 붙지 않았다면 '만들어 테스트함(built + tested)'이라는 별도 등급으로 남긴다. 개발 로그에는 실패한 시도와 막다른 길이 모두 포함된 채 docs/plan.md에 담겨 있고, "감지할 수 있는 것만 주장하고, 검증된 것만 단언하며, 중간 상태는 큰 소리로 표시하고, 실패는 미화 없이 있는 그대로 보고한다"는 원칙이 개발 노트에 적혀 있다. 데모 영상과 실제 성능 사이의 간극이 흔한 하드웨어·AI 프로젝트에서, 이런 등급 구분은 과장을 걸러내는 장치로 참고할 만하다.

실무자 관점에서 CarWatch를 볼 때는 그 성격을 분명히 인식할 필요가 있다. 이것은 상용 제품이 아니라 1인 개발자의 오픈소스 실험이며, 라이선스도 AGPL-3.0이라 상업적 활용에는 소스 공개 의무가 따른다. 공개된 자료만으로는 35B 모델의 실제 응답 지연이나 파이 5에서의 지속 발열·전력 안정성, 차량 전원 환경에서의 신뢰성 같은 정량적 지표를 확인하기 어렵다. 그럼에도 저가 SBC 위에서 대형 모델을 로컬로 돌려 오프라인 우선 에이전트를 구성하고, 채팅방 인터페이스로 사람과 기기를 같은 대화 공간에 놓으며, 기능의 검증 수준을 명시적으로 등급화하는 접근은 엣지 AI를 다루는 개발자에게 구체적인 참고점이 된다. 화려한 기능 목록보다 '연결이 끊겨도 쓸모 있는가'를 먼저 묻는 설계 태도가 이 프로젝트의 진짜 메시지다.