암호 표준은 누가 정하나 — NSA와 IETF, 그리고 djb의 공정성 문제 제기

암호 표준은 대체 누가 정하는 걸까

우리가 매일 쓰는 HTTPS, 메신저의 종단간 암호화, 온라인 결제... 이 모든 게 '표준화된 암호 기술' 위에서 돌아가요. 그런데 이 표준은 하늘에서 뚝 떨어지는 게 아니라, 인터넷 표준을 만드는 IETF(국제 인터넷 표준화 기구) 같은 곳에서 사람들이 모여 논의하고 정하는 거거든요. 문제는 이 논의 테이블에 누가 앉느냐, 그리고 그 과정이 얼마나 공정하냐예요. 유명한 암호학자 대니얼 번스타인(djb로 더 잘 알려진 사람)이 자기 블로그에서 바로 이 '공정성' 문제를 정면으로 파고들었어요.

번스타인이 누구냐면, 우리가 쓰는 여러 암호 알고리즘을 직접 만든 전설적인 연구자예요. Curve25519나 ChaCha20 같은, 이름은 낯설어도 실제로 수많은 앱과 서비스 밑바닥에서 돌아가는 암호들이 그의 작품이거든요. 동시에 그는 오랫동안 미국 국가안보국(NSA)이 암호 표준에 미치는 영향력을 강하게 비판해온 사람이기도 해요.

NSA가 왜 문제가 되나

이게 그냥 음모론이 아니라 실제 전례가 있어요. 'Dual EC DRBG'라는 난수 생성 알고리즘이 있었는데요. 난수는 암호의 핵심 재료예요. 예측 가능한 난수를 쓰면 암호가 통째로 뚫리거든요. 그런데 이 알고리즘이 표준으로 채택된 뒤, NSA가 여기에 자기들만 아는 뒷문(백도어)을 심어놨을 가능성이 크다는 게 나중에 폭로됐어요. 표준을 만드는 과정에 정보기관이 개입하면 이런 일이 벌어질 수 있다는 걸 똑똑히 보여준 사건이었죠.

지금 이 이야기가 다시 뜨거운 이유는 '포스트 양자 암호(post-quantum cryptography)' 때문이에요. 이게 뭐냐면, 미래에 양자컴퓨터가 충분히 강해지면 지금 우리가 쓰는 암호 대부분이 순식간에 풀려버려요. 그래서 양자컴퓨터로도 못 푸는 새로운 암호 표준을 지금 미리 정하는 작업이 한창이거든요. 인류의 통신 보안 앞으로 수십 년을 좌우할 중대한 결정이에요. 번스타인은 이 새 표준을 정하는 과정이 과연 공정하게, 투명하게 진행되고 있는지, 아니면 특정 세력의 입김이 과하게 들어가고 있는지를 문제 삼는 거예요.

무엇이 공정한 표준화인가

번스타인의 핵심 주장은 이래요. 암호 표준을 정할 때는 어느 하나가 왜 채택되고 다른 건 왜 탈락했는지, 그 판단 근거와 과정이 누구나 검증할 수 있게 투명해야 한다는 거예요. 만약 결정의 실권을 쥔 사람들이 특정 기관과 가깝거나, 논의가 밀실에서 이뤄지거나, 반대 의견이 은근슬쩍 무시된다면, 겉으론 공개 표준처럼 보여도 실은 공정하지 않은 거죠. 암호는 '모두가 안심하고 믿을 수 있어야' 의미가 있는 건데, 그 신뢰의 뿌리인 표준화 과정 자체가 흔들리면 결과물도 믿기 어려워지거든요.

이건 단순히 알고리즘 하나가 안전하냐 아니냐의 기술 문제가 아니에요. '기술 표준을 만드는 권력을 어떻게 견제하고 투명하게 관리할 것인가'라는 거버넌스 문제인 거죠. 기술과 정치, 국가 권력이 얽히는 지점이라 더 예민하고요.

한국 개발자에게

당장 코드에 반영할 건 아니지만, 보안을 다루는 사람이라면 꼭 알아둬야 할 감각이에요. 우리는 라이브러리에서 제공하는 암호 함수를 별생각 없이 갖다 쓰잖아요. 그런데 그 알고리즘이 '어떤 과정을 거쳐 표준이 됐는지'까지 이해하면, 어떤 걸 믿고 어떤 걸 조심해야 할지 판단하는 눈이 생겨요. 특히 요즘은 포스트 양자 암호로의 전환이 실제 논의되는 단계라, 앞으로 몇 년 안에 우리가 쓰는 TLS 라이브러리나 인증 방식에도 새 알고리즘들이 들어올 거예요. 그때 '이건 어떤 배경에서 나온 표준이지?'를 물을 줄 아는 개발자와 그냥 시키는 대로 쓰는 개발자는 보안 대응 수준이 다를 수밖에 없어요.

또 하나, 표준이라고 무조건 안전한 게 아니라는 것, 그리고 오픈소스와 투명한 검증이 왜 그렇게 중요한지를 이 사례가 잘 보여줘요. '많은 사람이 열어보고 검증할 수 있는 것'이 보안의 근본이라는 거죠.

정리하며

암호의 안전성은 알고리즘의 수학만이 아니라, 그 표준을 만든 과정의 공정함과 투명함에서도 나와요. 우리가 매일 믿고 쓰는 보안의 뿌리가 어떻게 정해지는지 한 번쯤 들여다볼 가치가 있거든요. 여러분은 '표준이니까 안전하겠지'라고 믿고 쓰던 기술들을, 얼마나 알고 쓰고 계신가요?