AI가 다 해내는 시대, 암호는 안전할까요?
요즘 LLM(대규모 언어 모델, ChatGPT나 Claude 같은 AI를 말해요)이 못 하는 게 없어 보이죠. 코드도 짜고, 수학 문제도 풀고, 논문도 요약하고요. 그러다 보니 자연스럽게 이런 걱정이 나옵니다. "이러다 AI가 암호까지 깨버리는 거 아니야? 내 비밀번호, 내 은행 거래는 괜찮은 거야?" 최근 한 암호 전문가가 이 질문에 정면으로 답하는 글을 썼는데요, 결론부터 말하면 "LLM은 대칭키 암호를 못 깹니다"예요. 그런데 그 이유를 따라가다 보면 암호학의 핵심 원리를 한 번에 정리할 수 있어서, 오늘 찬찬히 풀어보려고 해요.
대칭키 암호가 뭐냐면요
먼저 용어부터 짚고 갈게요. 대칭키 암호는 잠글 때와 열 때 같은 열쇠를 쓰는 방식이에요. 집 현관 자물쇠를 생각하면 딱 맞아요. 잠글 때 쓴 열쇠로 그대로 열잖아요. 대표 주자가 AES인데, 여러분이 오늘 쓴 HTTPS 통신, 스마트폰 저장소 암호화, 메신저 대화 암호화까지, 실제 데이터를 지키는 일은 거의 다 AES가 하고 있거든요. 그러니까 "AI가 AES를 깰 수 있냐"는 질문은 사실상 "인터넷 보안 전체가 무너지냐"는 질문과 같은 거예요.
LLM은 패턴을 배우는 기계, 암호는 패턴을 지우는 기술
여기가 이 글의 핵심이에요. LLM이 똑똑해 보이는 이유는 어마어마한 데이터에서 통계적 패턴을 찾아내기 때문이거든요. "이 단어 다음엔 이 단어가 올 확률이 높다"를 수조 번 학습한 결과죠. 그런데 현대 암호는 정확히 그 반대를 목표로 설계돼요. 잘 만든 암호문은 완전한 랜덤 데이터와 통계적으로 구분이 불가능해야 하거든요. 정보 이론의 아버지 클로드 섀넌이 말한 '혼돈과 확산'이라는 원칙인데요, 평문의 흔적이 암호문에 티끌만큼도 남지 않게 비트를 섞고 또 섞는다는 뜻이에요.
그러니까 LLM에게 암호문 수십억 개를 학습시켜도, 그건 백색소음을 학습시키는 것과 같아요. 배울 패턴 자체가 없으니까요. 모델이 아무리 커져도 없는 패턴을 만들어낼 수는 없죠.
"그럼 무식하게 다 대입해보면?" 하는 브루트포스도 답이 안 돼요. AES-128의 키 경우의 수는 2의 128제곱, 대략 34 뒤에 0이 37개 붙는 숫자예요. 지구의 모든 컴퓨터를 다 동원해도 우주의 나이보다 오래 걸리는 규모거든요. AI가 아무리 똑똑해져도 물리적으로 필요한 연산량 자체가 줄어드는 게 아니에요.
신경망으로 암호를 분석한 연구, 있긴 있어요
2019년에 아론 고어(Aron Gohr)라는 연구자가 딥러닝으로 Speck이라는 경량 암호를 분석해서 기존 기법보다 나은 결과를 낸 적이 있어요. 암호학계에서 꽤 의미 있는 연구였죠. 그런데 여기엔 중요한 맥락이 있는데요, 이 연구는 라운드 수를 확 줄인 약화 버전을 대상으로 한 거예요. 암호 알고리즘은 비트를 섞는 과정(라운드)을 여러 번 반복하는데, 그걸 크게 줄인 실험용 버전에서만 성과가 나온 거죠. 풀 라운드 AES는 지난 25년간 전 세계 암호학자들이 달려들었는데도 실질적인 공격이 나온 적이 없어요.
진짜 위협은 다른 곳에 있어요
그렇다고 "보안 걱정 끝!"은 아니에요. 방향이 다를 뿐이죠. 흔히 말하는 양자컴퓨터 위협도 정리해볼게요. 양자컴퓨터의 그로버 알고리즘은 대칭키 탐색을 빠르게 해주긴 하는데, 효과가 "키 길이 절반" 수준이에요. AES-256을 쓰면 양자 시대에도 128비트 보안이 남으니 여전히 튼튼하죠. 진짜 위험한 쪽은 RSA나 타원곡선(ECC) 같은 공개키 암호예요. 쇼어 알고리즘이라는 양자 알고리즘이 이 계열을 근본적으로 무너뜨릴 수 있어서, NIST가 ML-KEM 같은 양자내성암호(PQC) 표준을 만들고 업계가 전환을 시작한 거고요.
AI의 진짜 보안 위협도 암호 수학이 아니라 그 주변부에 있어요. 그럴듯한 피싱 메일을 대량 생산하고, 코드에서 취약점을 찾아내고, 구현 실수를 파고드는 쪽이죠. 자물쇠를 부수는 게 아니라 열쇠를 훔치거나 열린 창문으로 들어오는 거예요.
우리가 실무에서 챙길 것
정리하면 이래요. 첫째, AES-256과 TLS는 계속 믿고 쓰면 돼요. 둘째, 암호를 직접 구현하지 마세요. 실제 사고는 알고리즘이 뚫려서가 아니라 키를 코드에 하드코딩하거나, ECB 모드를 쓰거나, IV(초기화 벡터)를 재사용하는 구현 실수에서 터지거든요. 검증된 라이브러리를 쓰는 게 답이에요. 셋째, 공개키 쪽은 PQC 마이그레이션 흐름을 지켜보다가 쓰는 라이브러리가 지원을 시작하면 따라가면 돼요.
마무리
한 줄로 정리하면, AI는 패턴을 찾는 기계이고 암호는 패턴을 없애는 기술이라 애초에 상성이 안 맞는다는 거예요. 여러분은 어떠세요? AI 시대 보안에서 제일 걱정되는 지점이 어디인가요? 암호 자체보다 사람과 구현이 먼저 뚫린다는 말에 동의하시나요?
🔗 출처: Hacker News