370년 동안 풀리지 않던 두 줄짜리 암호
AI 모델 평가 전문 회사인 vals.ai가 블로그를 통해 흥미로운 소식을 전했어요. Anthropic의 최신 모델인 Fable 5.1이 'Cyphral Distich'라고 불리는 암호문을 해독했다는 건데요. 이 암호는 무려 370년 전, 그러니까 1650년대 중반에 만들어진 거예요. 그동안 풀리지 않은 채 남아 있던 문제를 범용 AI 모델이 풀어냈다는 게 이번 소식의 핵심이에요.
이름부터 잠깐 풀어볼게요. 'Distich'는 이게 뭐냐면, 두 줄로 이루어진 짧은 시를 뜻하는 말이에요. 우리로 치면 짧은 대구(對句) 정도로 생각하시면 돼요. 그러니까 Cyphral Distich는 '암호로 적힌 두 줄짜리 시'라는 의미예요. 17세기 유럽에서는 학자들이 자기 발견이나 비밀을 암호나 아나그램으로 남기는 일이 흔했거든요. 호이겐스가 1656년에 토성 고리 발견을 아나그램으로 먼저 발표한 게 유명한 예인데, 나중에 우선권을 주장하면서도 당장은 경쟁자에게 내용을 숨기려는 목적이었죠.
왜 이렇게 오래 안 풀렸을까
고전 암호는 보통 빈도 분석으로 풀어요. 이게 뭐냐면, 영어에서 e가 가장 많이 쓰이고 그 다음이 t, a 순서인 것처럼 언어마다 글자 출현 빈도가 정해져 있으니, 암호문에서 제일 자주 나오는 기호를 e로 가정하고 하나씩 맞춰가는 방식이에요. 그런데 이 방법은 암호문이 충분히 길어야 통해요. 두 줄짜리 시는 글자가 몇십 개밖에 안 되니까 통계가 아예 성립하지 않죠.
거기에 17세기 암호는 단순 치환만 있는 게 아니에요. 기호 하나에 단어 하나를 통째로 대응시키는 노멘클레이터, 키워드에 따라 치환 규칙이 계속 바뀌는 비즈네르 방식, 여기에 당시 특유의 철자 변형과 라틴어 혼용까지 겹치면 경우의 수가 폭발해요. 그래서 이런 문제는 암호학 지식, 언어학 지식, 역사적 맥락 세 가지를 동시에 갖춘 사람이 붙어야 하는데, 그런 사람이 세상에 별로 없거든요.
AI는 어떻게 접근했을까
여기서 범용 언어 모델이 강한 이유가 드러나요. 사람 한 명이 갖추기 어려운 세 가지 지식을 한 모델이 동시에 가지고 있다는 점이에요. 최신 모델들은 답을 한 번에 내뱉는 게 아니라, 가설을 세우고, 그 가설을 검증하는 코드를 직접 짜서 돌려보고, 결과가 틀리면 다른 가설로 넘어가는 반복 작업을 스스로 수행해요. 이걸 흔히 에이전트 방식이라고 부르는데요. 예를 들어 '이 기호는 라틴어 접미사일 것이다'라는 가설을 세우면 그에 맞춰 나머지 글자를 채워보고, 말이 안 되는 단어가 나오면 되돌아가는 식이죠. 사람이라면 몇 달 걸릴 시행착오를 모델은 몇 시간 안에 수천 번 돌릴 수 있어요.
구체적으로 어떤 가설을 거쳐 최종 평문에 도달했는지, 해독된 내용이 무엇이었는지는 vals.ai 원문에서 확인하실 수 있어요. 여기서 중요한 건 '어떤 특정 알고리즘'이 아니라, 지식과 도구 사용과 끈기 있는 반복이 한 시스템 안에서 맞물렸다는 점이에요.
미해결 문제가 새로운 벤치마크가 되는 흐름
이 소식은 AI 평가 방식이 바뀌고 있다는 신호이기도 해요. 지금까지는 MMLU 같은 객관식 시험이나 코딩 문제 세트로 모델을 평가했는데, 최상위 모델들이 다 만점에 가까워지면서 변별력이 사라졌거든요. 그래서 요즘은 '아직 인류가 못 푼 문제'를 벤치마크로 쓰는 추세예요. 수학 쪽에서는 FrontierMath나 오래된 미해결 추측들이 그 역할을 하고 있고, 이번 암호 해독도 같은 맥락이에요.
비슷한 사례로 2011년에 통계적 기계번역 기법으로 풀린 코피알레 암호나, 2020년에 소프트웨어와 사람이 협업해 푼 조디악 킬러의 340자 암호가 있는데요. 그때는 그 문제만을 위해 만든 전용 프로그램이었다면, 이번엔 특정 문제용으로 설계되지 않은 범용 모델이 풀었다는 게 결정적인 차이예요. vals.ai 같은 제3자 평가 기관이 이런 결과를 직접 검증하고 공개하는 것도 벤치마크 신뢰성 측면에서 의미가 있고요.
한국 개발자에게 주는 시사점
솔직히 17세기 암호를 푸는 일이 여러분 업무에 직접 도움되진 않을 거예요. 하지만 이 사례가 보여주는 작업 패턴은 그대로 실무에 옮겨올 수 있어요. 문서도 없고 원작자도 떠난 레거시 코드를 분석하는 일, 로그만 보고 원인 모를 장애를 추적하는 일, 바이너리만 남은 프로그램을 리버스 엔지니어링하는 일이 전부 '가설 세우고 검증하고 되돌아가기'의 반복이거든요. 모델에게 도구 실행 권한을 주고 충분히 오래 돌리도록 설계하면 이런 일에서 성과가 나온다는 걸 이번 사례가 보여준 셈이에요.
보안 관점에서는 오해하지 않으셨으면 해요. 고전 암호가 풀렸다고 AES나 RSA 같은 현대 암호가 위협받는 건 전혀 아니에요. 현대 암호는 수학적으로 완전히 다른 기반 위에 있거든요. 다만 '우리만 아는 방식으로 살짝 꼬아놨으니 괜찮겠지' 하는 자체 난독화나 커스텀 인코딩은 이제 정말 위험해졌어요. 그런 건 AI 입장에서 370년짜리 암호보다 훨씬 쉬운 문제니까요.
정리하면
한 줄로 요약하면, 범용 AI 모델이 지식과 도구와 끈기를 결합해 사람이 수백 년 동안 못 푼 문제를 풀어냈고, 그 작업 방식은 우리 일상 개발 업무에도 그대로 적용된다는 거예요.
여러분은 어떻게 생각하세요? 팀에 '아무도 못 건드리는' 레거시나 미해결 버그가 있다면, 모델에게 며칠씩 가설-검증 루프를 돌리게 맡겨볼 만하다고 보시나요? 아니면 아직은 사람이 방향을 잡아줘야 한다고 보시나요?
🔗 출처: Hacker News