재난이나 정전 상황에서 가장 먼저 끊기는 것이 네트워크다. 평소 검색엔진이나 클라우드 기반 AI 챗봇에 의존하던 사람이라면, 정작 전기와 통신이 불안정해지는 순간 아무런 정보도 얻지 못하는 역설에 빠진다. 최근 공개된 '서바이벌 LLM(Survival LLM)'은 이 지점을 겨냥한 무료 오픈소스 프로그램이다. AI 비서와 비상 자료실을 통째로 사용자의 컴퓨터 안에 넣어, 인터넷이 완전히 끊긴 상태에서도 작동하도록 설계했다. 설치할 때 한 번만 인터넷이 필요하고, 그 이후로는 네트워크 없이 쓸 수 있다는 것이 핵심이다.
사용 방식은 일반적인 챗봇과 비슷하다. 정전 상황에서 음식을 어떻게 보관해야 하는지, 화상을 어떻게 처치하는지, 물을 어떻게 정수하는지를 물으면 AI가 답을 내놓는다. 다만 이 답은 모델이 임의로 지어내는 것이 아니라 내장된 신뢰 자료에서 끌어온 것이며, 답변마다 참고한 문서 목록을 함께 보여준다. 문서를 클릭하면 해당 대목이 강조 표시된 원문을 직접 확인할 수 있다. 소형 모델일수록 오류가 잦다는 점을 개발 측도 인정하면서, 그렇기 때문에 언제나 출처를 함께 제시해 사용자가 교차 확인하도록 만들었다는 설명이다.
자료실의 규모와 구성
내장된 자료실은 약 150만 건의 오프라인 문서로 구성된다. 의료 참고자료, 미국 연방재난관리청(FEMA)과 질병통제예방센터(CDC)의 지침, 생존 매뉴얼, 각종 하우투 가이드, 수리 안내서, 그리고 약 93만 건의 위키백과 문서가 포함된다. 모든 자료는 평문 텍스트로 저장돼 1초도 안 되는 시간에 검색된다. 각 문서는 고유의 라이선스를 그대로 유지하며, 문서마다 어떤 라이선스가 적용되는지 함께 표시된다. 공개 라이선스나 퍼블릭 도메인 자료가 중심이지만 일부는 비상업적 용도로만 쓸 수 있다는 조건이 붙는다.
자료실은 용량에 따라 선택할 수 있다. 위키백과와 수리 가이드 사이트 iFixit를 포함한 전체 버전은 다운로드 9GB에 설치 후 19GB를 차지하고, 이 둘을 뺀 축소 버전은 다운로드 1.3GB에 설치 후 3GB 수준이다. 설치 과정에서는 전체 버전 기준 약 27GB(축소 버전 10GB)의 여유 공간이 추가로 필요하다. AI 모델은 설치 시점에 앱이 사용자 컴퓨터의 메모리를 확인해 적합한 크기를 내려받는다. 메모리가 많을수록 더 똑똑한 모델이 깔린다는 구조다.
프라이버시와 실측 성능
이 프로그램의 또 다른 축은 프라이버시다. 계정도, 추적도 없다. 질문과 답변이 모두 사용자의 컴퓨터 안에서만 처리되며 외부로 나가지 않는다. 여기에 더해 발전기 사용설명서나 가족의 비상 대응 계획처럼 개인이 가진 PDF, 워드 문서, 전자책, 메모를 추가로 등록하면 AI가 이 파일들까지 함께 검색 대상으로 삼는다. 이렇게 추가한 자료 역시 컴퓨터 밖으로 나가지 않는다. 업데이트는 앱 하단의 확인 버튼을 눌러 한 번에 설치할 수 있고, 기존 모델과 자료실, 추가 파일은 그대로 유지된다.
성능과 관련해 개발 측은 비교적 솔직한 수치를 제시한다. 초기 빌드의 자료실을 대상으로 정전과 응급처치 관련 22개 질문을 블라인드 방식으로 채점한 결과, AI가 공식 지침의 핵심을 '맞게' 짚어냈다고 밝혔다. 여기서 '맞다'는 것은 공식 지침의 요점을 올바로 전달했다는 의미이며, 작은 모델일수록 실수가 늘어난다는 단서를 분명히 달았다. 전력 소비도 실측했다. 맥북 프로에서 답변을 생성할 때 약 100W를 소비했고, 질문 하나당 5초에서 40초가 걸려 완충 배터리로 대략 100~300개의 질문에 답할 수 있다는 계산이다. 소형 발전기나 휴대용 파워스테이션으로도 무리 없이 구동된다고 설명한다.
실무적 의미와 한계
동작 환경은 M1 이상의 애플 실리콘 맥(macOS 14 소노마 이상)과 64비트 윈도우 10·11이다. 설치는 컴퓨터 사양과 인터넷 속도에 따라 20분에서 2시간 30분가량 걸리는데, 사용자가 실제로 클릭하는 시간은 약 5분이고 나머지는 모두 다운로드 대기 시간이다. 로컬에서 대형 모델을 돌리려는 만큼 저장 공간과 메모리 요구치가 적지 않다는 점은 도입 전에 따져볼 대목이다.
IT 실무자 관점에서 이 프로젝트가 흥미로운 이유는, 검색증강생성(RAG)과 온디바이스 추론, 그리고 출처 추적을 하나의 오프라인 패키지로 묶어 '네트워크 부재'라는 극단적 제약을 전제로 설계했다는 점이다. 출처를 항상 노출하는 방식은 소형 모델의 환각 문제를 사용자 검증으로 보완하려는 현실적 타협이다. 다만 이는 뒤집어 보면 답변 자체의 신뢰도를 모델 혼자 보장하지 못한다는 뜻이기도 하다. 자료실이 FEMA·CDC 등 미국 기관 지침과 영어권 자료 중심이라는 점, 비상업 조건이 붙는 라이선스가 섞여 있다는 점도 국내 환경에서 활용하거나 재배포를 검토할 때 함께 고려해야 할 한계다.