TECH 으로 돌아가기
TECH HACKER NEWS 9분 읽기 61 READS

'정형 검증된 소프트웨어'라는 말을 버려야 하는 이유

AI가 코드 생산량을 폭발적으로 늘리면서, 과거에는 소수 연구자의 영역이던 정형 검증(formal verification)이 빠르게 주류로 올라오고 있다. 원문 저자는 2025년 한 해 동안 정형 검증 스타트업 수가 급증했고, Claude가 단일 검증 프로젝트를 위해 방대한 분량의 Rocq 증명 코드를 작성했으며, Claude Code 개발자부터 Vercel CEO, 주요 Codex·Cursor 개발자까지 정형 검증을 입에 올리게 됐다고 전한다. Theorem이 Anthropic과 진행한 바이너리 검증, Harmonic의 C 프로그램 및 하드웨어 설계 검증처럼 단순히 수학적 증명을 생산하는 것을 넘어 경제적 가치를 만들어내는 사례도 등장했다. 사이버보안 리스크가 치솟으면서 검증은 더 쉬워졌을 뿐 아니라 더 돈이 되는 일이 되고 있다는 것이다.

그런데 저자가 던지는 문제의식은 기술 자체의 성능이 아니라 '검증 가능성(verifiability)'에 있다. 그는 테스트는 사람이 직접 확인할 수 있는 결과물, 즉 잘 정의되고 리뷰 가능한 버그 리포트를 만들어내기 때문에 '검증 가능하다'고 말한다. 누군가 버그를 찾았다고 하면 저자는 그 주장을 꽤 신뢰한다. 반면 누군가 시스템을 '정형 검증했다'고 말할 때는 자동으로 신뢰가 차오르지 않는다고 고백한다. 정형 검증된 시스템에도 여전히 버그가 존재하기 때문이다.

증명은 믿어도 전제는 못 믿는다

이 역설의 핵심은 정형 검증이 두 종류의 구성 요소로 이뤄진다는 데 있다. 하나는 외부 검토가 필요 없는 '검증된' 부분, 즉 증명 그 자체다. 다른 하나는 검토하기 어려운 부분으로, 대상을 수학적으로 기술한 정의, 그 아래 깔린 모델, 그리고 검증을 수행하는 증명기(prover)다. 더구나 정형 검증은 '모든 경우에 대해(forall)' 성립한다는 강한 주장을 하는 반면, 테스트는 '어떤 경우가 존재한다(exists)'는 약한 주장을 한다. 그래서 검토하기 어려운 구성 요소 어딘가에 실수가 하나라도 있으면 전체 증명이 무너질 수 있다. 신뢰의 표면적(trusted surface)이 넓다는 것이 문제의 본질이다.

저자는 이 신뢰 표면을 줄이는 한 가지 경로로 최근의 바이너리 검증 방식을 든다. 고수준 프로그램 자체가 아니라 컴파일된 바이너리에 대해 성질을 증명하면, 고수준 언어의 의미론과 컴파일러 정확성에 대한 의존을 덜어낼 수 있다. 컴파일러에는 실제로 버그가 많기 때문에 이는 의미 있는 개선이다. 또 언어마다 따로 모델링해야 하는 소스 수준 검증과 달리, 바이너리 수준에서는 여러 언어가 결국 같은 기계 모델로 수렴한다는 이점도 있다. 다만 저자는 이것이 문제의 작은 일부만 해결한다고 본다. 기계 의미론과 리눅스 프로세스 의미론이 여전히 신뢰 기반(TCB)에 남아 있고, 둘 다 별도의 검증이 필요하기 때문이다.

'X를 검증했다'가 아니라 'Y의 X 속성을 검증했다'

저자가 가장 강조하는 지점은 용어의 정밀함이다. 'X를 정형 검증했다'는 표현은 부정확하며, 정확히는 'Y에 대한 X 속성을 정형 검증했다'고 말해야 한다는 것이다. 과거 CompCert가 '검증된 컴파일러', seL4가 '검증된 마이크로커널'로 불릴 때, 우리는 저자들이 공허하거나 사소한 속성을 증명한 게 아니라고 암묵적으로 가정할 수 있었다. 그 작업들이 광범위한 동료 평가를 거쳤고, 다른 검증 시스템의 토대가 됐으며, 실제로 버그가 발견되기도 했기 때문이다. 하지만 AI가 소프트웨어 코드 리뷰를 흔들었듯 증명 공학에도 더 공격적인 변화를 일으키고 있다. AI가 세상의 소프트웨어 양을 10배로 늘렸다면, '정형 검증된 소프트웨어'의 양은 1000배로 늘렸을지도 모른다는 것이다. 이렇게 급격한 대중화는 기존의 검증·신뢰 전략을 무력화한다.

그래서 저자는 '정형 검증된 소프트웨어'라는 뭉뚱그린 개념 자체를 가능한 한 빨리 폐기하고, 모든 논의에 무엇이 신뢰되고 무엇이 증명됐으며 무엇이 증명되지 않았는지에 대한 단서 목록을 붙여야 한다고 주장한다. 실제로 이런 흐름은 시작되고 있다. 새로운 Lean 증명은 LLM이 커널 건전성 버그를 악용했을 가능성 아래 논의되고, comparator 같은 도구가 신규 Lean 증명의 표준 검증 장치로 자리 잡고 있다. Anthropic·Theorem의 크래시 프리덤 검증이나 Google DeepMind의 Signal 검증 같은 주요 발표도 증명의 한계와 신뢰 기반을 함께 명시한다.

'부바'한 소프트웨어는 증명할 수 없다

저자는 소프트웨어의 결을 '키키(kiki)'와 '부바(bouba)'라는 비유로 나눈다. 데이터베이스나 엔진처럼 수학적으로 잘 정의된 단순한 인터페이스를 제공하는 안쪽 계층은 '키키'하다. 반면 자동차 좌석이나 사용자 인터페이스처럼 수학 공식 없이 일반 지침, 사용자 요구, 미적 선택으로 결정되는 바깥 계층은 '부바'하다. 소프트웨어가 사용자에게 가까워질수록 수학적으로 잘 정의된 추상화를 만들기 어려워지고, 균일한 정확성 개념을 말하는 것 자체가 불가능해진다. 따라서 '부바'한 소프트웨어를 정형 검증한다는 것은 가망 없는 일이며, '모든 것을 검증' '버그 없는 소프트웨어' 같은 선언에는 커다란 단서가 붙어야 한다. 소프트웨어에 버그가 있는 것은 엔지니어의 잘못이 아니라 수조 가지 사건을 다뤄야 하는 복잡성의 자연스러운 결과라는 점도 저자는 함께 짚는다.

그럼에도 저자는 정형 검증 자체에는 매우 낙관적이다. '부바'한 소프트웨어 전체를 정확하다고 증명할 수는 없지만, 명세할 수 있는 일반적 속성이라면 안쪽 '키키' 계층이든 바깥 '부바' 계층이든 증명이 가능하다고 본다. 특히 단일 스레드 프로그램에서는 기존 증명 프레임워크와 기계 생성 증명으로 대규모 실제 production 시스템까지 다룰 여지가 있다고 평가한다. 과거 그는 2030년까지 단일 스레드 코드 번역 문제를 풀 수 있으리라는 개인적 내기를 걸었는데, 이제는 번역뿐 아니라 단일 스레드 프로그램 검증까지 가능하다고 믿는 단계에 이르렀다. 속성 기반 테스트로 쓸 수 있는 1차 전칭 속성이라면, 수백만 시간의 테스트로 검증된 아키텍처 모델을 상대로 바이너리 수준에서 증명을 생성할 수 있다는 것이다. 다만 멀티 스레드, 분산 시스템, 고차 속성, 비기능적 속성, 실제 배포 환경으로 확장하는 일은 수천 명의 검증 엔지니어와 연구자가 수년에 걸쳐 해야 할 과제로 남는다.

한국의 실무자 입장에서 이 글의 실용적 함의는 분명하다. 벤더나 오픈소스가 '정형 검증됨'을 내세울 때 그 문구를 품질 보증서처럼 받아들이기보다, 무엇이 신뢰 기반에 들어가고 어떤 속성이 실제로 증명됐는지를 캐묻는 태도가 필요하다는 것이다. 저자가 마지막으로 강조하는 도구가 바로 랜덤 테스트다. 테스트 실행 하나하나가 실제 시스템에 대한 '측정'이며, 검증에 쓰는 모델을 반증하고 강화하고 타당화하는 정보를 만들어낸다. 사람이 결과를 확인할 수 있다는 테스트의 검증 가능성은 앞으로도 채택을 이끄는 힘이자 정형 방법론으로 들어가는 관문이 될 것이고, 언젠가 '정형 검증됐다'는 말을 들었을 때 무엇이 빠졌을지 의심하는 대신 그 말을 신뢰하게 만드는 바탕이 될 수 있다는 것이 저자의 전망이다.

SOURCE · HACKER NEWS
원문 전체 보기 → https://alperenkeles.com/posts/formal-verification-is-not-ve...
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...