디스크 암호화는 흔히 '보안의 기본'으로 언급되지만, 실제로 무엇을 어떤 위협으로부터 지키려는지 먼저 정의하지 않으면 과하거나 부족한 구성을 하게 된다. NetBSD 개발자 nia가 공개한 이 안내서는 두 가지 위협 모델을 구분하는 것에서 출발한다. 하나는 기기를 분실하거나 도난당했을 때 내용이 외부에 노출되지 않아야 하는 경우이고, 다른 하나는 물리적으로 변조를 시도하면 기기가 아예 동작하지 않도록 만드는 경우다. 후자, 즉 변조 방지(tamper-proof) 시스템은 하드웨어 수준의 대응이 필요하고 현실적인 공격자 수준에 따라 난이도가 크게 달라지기 때문에, 이 글은 전자인 '기밀성 유지'에만 집중한다.
무엇을 암호화할 것인가
핵심 통찰은 시스템의 모든 데이터가 똑같이 보호 가치를 갖지는 않는다는 점이다. BSD 계열은 기본 시스템(base)과 패키지가 분리돼 있어, /bin/sh 같은 실행 파일은 NetBSD FTP 서버에서 내려받은 것과 동일한 바이너리일 가능성이 높다. 올바르게 설정된 시스템이라면 데몬이나 사용자 애플리케이션이 root 권한으로 돌지 않으므로 /bin 안의 파일을 함부로 수정할 수 없고, 사용자는 이런 디렉터리를 읽기 전용으로 둘 수도 있다. 반대로 운영 중 자주 바뀌고 민감 정보가 쌓이는 곳은 따로 있다. /var에는 로그와 시스템 데이터베이스, 크래시 덤프가 쌓이고, /root에는 root 계정 설정이, /usr/pkg와 /usr/local에는 서드파티 소프트웨어가, /etc에는 부팅 스크립트와 시스템 설정이 들어간다.
단순히 /home만 암호화하는 방식은 직관적이지만 충분하지 않을 수 있다. 크래시 덤프는 시스템 메모리의 스냅숏이라 민감한 내용을 품을 수 있고, 서버를 돌렸다면 로그가, 사용자에게 전달된 메일(예: 중단된 vi 세션과 백업 안내)은 파일 이름 같은 단서를 노출할 수 있다. 그래서 보호 대상을 /home 너머로 넓혀야 한다는 것이 이 글의 문제의식이다.
부팅 가능성이라는 제약
이상적인 '완전한' 풀디스크 암호화가 어려운 이유는 운영체제가 부팅하려면 어떤 파일은 암호화되지 않은 상태로 먼저 읽혀야 하기 때문이다. 사용자가 암호나 키를 입력하려면 그보다 먼저 무언가가 실행돼 있어야 하고, NetBSD는 24자 암호에서 256비트 키를 만드는 방법 같은 메타데이터도 디스크에 저장해 둬야 한다. 또 /usr/lib 같은 공유 라이브러리가 사라지면 시스템을 쓰기 어려워지므로, 공유 라이브러리 없이도 동작하는 /rescue의 표준 유틸리티를 미리 익혀 두라고 권한다. 암호 알고리즘의 성능도 고려 대상인데, 미국 정부 표준 알고리즘은 소프트웨어 구현 시 느린 편이라 많은 CPU가 AES를 하드웨어로 지원하며, 그렇지 않은 환경을 위해 Adiantum 같은 대안 암호도 존재한다.
작은 평문 루트 + 큰 암호화 파티션
이 가이드가 택한 절충안은 cgdroot처럼 부팅 루틴을 크게 바꾸지 않으면서도 /home만 암호화하는 것보다 넓게 보호하는 방식이다. 표준 NetBSD 설치 과정과 부팅 과정을 그대로 쓰되, 작은 평문 루트 파일시스템에 시스템을 설치하고 나머지를 암호화 파티션으로 돌린다. /usr와 /var를 별도 파티션으로 두는 것은 NetBSD 설치 프로그램이 지원하는 표준 구성이다. 개발 도구를 포함한 전체 설치도 /usr·/var·/home의 증가분을 빼면 매우 작아서, 루트에는 4GB면 충분하다고 설명한다. 설치 시 보조 파티션 타입을 NetBSD의 암호화 장치 드라이버인 'cgd'로 지정하고 마운트 지점을 '-'로 둬 나중에 재구성한다.
재부팅 후에는 cgd용 파라미터 파일을 만들고 설정을 로드하며 암호를 설정한다. 그러면 cgd0가 또 하나의 디스크처럼 보이고, 이 디스크에 대한 접근은 커널이 자동으로 암·복호화한다. 다음 부팅에서 입력한 암호가 올바른지 검증하기 위해, 암호화 파티션 안에 다시 disklabel(또는 amd64의 GPT·디스크 웨지 환경에서는 GPT 파티션 테이블)을 넣어 둔다. 유효한 레이블이 보이면 암호가 맞다고 판단하는 동시에 파일시스템 선택의 유연성도 확보하는 방식이다. 이후 /etc/cgd/의 verify_method를 disklabel 또는 gpt로 바꾸고, cgd.conf에 부팅 시 cgd를 생성하도록 한 줄을 추가한다. 파일시스템으로는 -current에서 LFS를 시험하지만, 더 보편적이고 검증된 구성은 FFSv2ea(또는 fstab에서 ffs, 저널링을 위한 rw,log,noatime 옵션)라고 명시한다.
마지막 단계는 /usr, /var, /etc의 중요한 디렉터리를 암호화 파일시스템으로 복사하고, 원본은 치운 뒤 심볼릭 링크로 대체하는 것이다. /usr/lib는 ../../를 향한 상대 링크를 담고 있어 루트에 lib 디렉터리가 있다고 가정하므로, ln으로 링크를 만들어 주는 다소 편법적인 처리가 필요하다. /etc는 부팅에 필요한 파일을 담고 있어 까다롭지만, 데스크톱에서는 상당수 파일이 손대지 않은 채 남고 암호는 대개 해시로만 저장되며(Wi-Fi AP와 일부 VPN 설정은 예외), 많은 설정 파일은 /usr가 마운트된 뒤에야 로드돼 다른 파일시스템의 파일로 쉽게 대체할 수 있다. 끝으로 /etc/rc.conf에 암호화 파티션을 이른 시점에 마운트하도록 지정해 init 과정에서 /usr와 /var를 쓸 수 있게 한다.
실무적으로 이 접근의 가치는 특수 하드웨어 없이 표준 설치·부팅 흐름 안에서 보호 범위를 /home 이상으로 넓힌다는 데 있다. 다만 평문 루트가 남는 만큼 변조 방지에는 대응하지 못하고, LFS 같은 실험적 조합보다 FFS 기반의 검증된 구성을 쓰는 편이 안전하다. 저자 스스로 '사람이 쓴 글이라 오류가 있을 수 있다'고 밝힌 만큼, 심볼릭 링크 교체처럼 되돌리기 어려운 작업은 /rescue 유틸리티 숙지와 백업을 전제로 신중히 진행하는 것이 바람직하다.