100번째 생일을 맞은 살아있는 전설
2026년 9월 15일, 프랑스 수학자 장피에르 세르(Jean-Pierre Serre)가 100번째 생일을 맞았어요. 1926년 프랑스 남부 피레네 산맥 근처의 작은 마을 바주(Bages)에서 약사 부부의 아들로 태어난 분인데요. 수학계에서 '살아있는 전설'이라는 표현이 과장이 아닌 몇 안 되는 인물이에요. 1954년, 스물일곱 살에 필즈상을 받았는데 이 기록은 70년이 넘게 지난 지금까지도 역대 최연소 기록으로 남아 있거든요. 2003년에는 수학계의 노벨상이라 불리는 아벨상이 처음 만들어졌을 때 첫 번째 수상자가 되기도 했어요.
'수학자 생일이 개발 커뮤니티랑 무슨 상관이냐'고 하실 수 있는데요. 사실 우리가 매일 쓰는 HTTPS, 비트코인 지갑, SSH 키 같은 것들의 밑바탕에 깔린 수학이 이분과 이분 세대가 만든 언어로 쓰여 있어요. 그래서 오늘은 세르가 뭘 했는지, 그리고 그게 왜 개발자한테도 의미가 있는지 편하게 풀어볼게요.
첫 번째 업적: 공을 감싸는 방법의 개수를 세다
세르가 박사 논문에서 다룬 건 위상수학(topology)이었어요. 이게 뭐냐면, 도형을 늘리거나 구부려도 변하지 않는 성질을 연구하는 분야예요. 커피잔과 도넛이 같은 모양이라는 그 농담이 바로 위상수학 얘기거든요.
그중에서도 '구의 호모토피 군(homotopy groups of spheres)'이라는 문제가 있었어요. 쉽게 말하면 'n차원 공 위에 m차원 공을 얼마나 다양한 방법으로 감쌀 수 있느냐'를 세는 문제인데요. 이게 어처구니없이 어려워서 당시 수학자들이 하나하나 손으로 계산하고 있었어요. 세르는 지도교수 앙리 카르탕과 함께 르레(Leray)가 만든 '스펙트럼 열(spectral sequence)'이라는 도구를 이 문제에 적용해서, 이 군들이 몇 가지 예외를 빼면 전부 유한하다는 걸 증명했어요. 개발자 식으로 비유하면, 다들 브루트포스로 돌리던 문제에 새로운 알고리즘을 들고 와서 복잡도를 한 단계 낮춰버린 거예요.
두 번째 업적: 대수기하학의 공용어를 만들다
필즈상을 받고 나서 세르는 관심을 대수기하학으로 옮겼어요. 대수기하학은 방정식의 해가 이루는 도형을 연구하는 분야예요. x² + y² = 1이 원이 되는 것처럼요. 여기서 세르는 1955년에 FAC라고 줄여 부르는 논문 'Faisceaux Algébriques Cohérents'를 발표하는데요, 이 논문이 이후 그로텐디크(Grothendieck)가 현대 대수기하학을 완전히 새로 쓰는 데 기초 문법이 됐어요. 두 사람이 주고받은 편지가 책으로 나와 있을 정도로 끊임없이 아이디어를 교환했거든요. 이 시기에 나온 '세르 쌍대성(Serre duality)'은 도형의 성질을 계산할 때 앞에서 본 것과 뒤에서 본 것이 서로 대응된다는 정리인데, 이후 수많은 정리가 이 대칭성 위에 서 있어요.
또 하나 재미있는 게 같은 논문에서 세르가 던진 질문이에요. '다항식 환 위의 유한 생성 사영 가군은 항상 자유 가군인가?'라는 건데, 개발자 감각으로 풀면 '이 데이터 구조가 겉으로는 복잡해 보이는데 실제로는 그냥 배열로 표현 가능한 거 아니야?'라는 질문에 가까워요. 이 문제는 20년이 지나서야 퀼런(Quillen)과 수슬린(Suslin)이 각각 독립적으로 '그렇다'고 증명했고, 지금은 퀼런-수슬린 정리라고 불려요. 좋은 질문 하나가 한 분야를 20년 동안 굴러가게 만든 사례죠.
세 번째 업적: 타원곡선, 그리고 페르마의 마지막 정리
개발자한테 가장 와닿을 부분은 아마 여기일 거예요. 타원곡선(elliptic curve)이라고 들어보셨죠? y² = x³ + ax + b 꼴의 곡선인데, 비트코인의 secp256k1이나 TLS에서 쓰는 Curve25519가 전부 이 타원곡선 위에서 돌아가요.
세르는 1960~70년대에 타원곡선의 '갈루아 표현(Galois representation)'을 깊이 연구했어요. 이게 뭐냐면, 타원곡선 위의 특정 점들을 방정식의 대칭성이 어떻게 뒤섞는지를 행렬로 표현한 거예요. 1972년에 발표한 '열린 상 정리(open image theorem)'는 이런 대칭성이 생각보다 훨씬 풍부하다는 걸 증명했는데, 타원곡선 위 점들의 구조를 이해하는 기본 도구가 됐어요. 우리가 타원곡선 암호의 안전성을 논할 때 밑바닥에서 이런 구조론이 돌아가고 있는 거죠.
그리고 1987년에 세르가 제시한 '모듈러성 추측(Serre's modularity conjecture)'이 있어요. 이 추측의 특수한 경우를 리벳(Ribet)이 증명하면서 '타니야마-시무라 추측이 맞으면 페르마의 마지막 정리도 맞다'는 연결고리가 완성됐고, 그 덕분에 앤드루 와일스가 1995년에 350년 묵은 페르마의 마지막 정리를 증명할 수 있었어요. 세르의 추측 자체는 2008년에 카레(Khare)와 빈텐베르거(Wintenberger)가 완전히 증명했고요.
글 잘 쓰는 수학자
세르가 특히 사랑받는 이유가 하나 더 있어요. 글을 정말 잘 써요. 'A Course in Arithmetic' 같은 책은 얇은데도 내용이 꽉 차 있고 군더더기가 없기로 유명하거든요. 심지어 '수학을 나쁘게 쓰는 법(How to write mathematics badly)'이라는 제목으로 강연한 적도 있어요. 결론부터 말해라, 기호를 남발하지 마라, 독자가 뭘 모르는지 생각해라 같은 얘기인데, 기술 문서 쓰는 개발자가 봐도 배울 게 많아요.
한국 개발자에게 주는 시사점
솔직히 세르의 논문을 직접 읽을 일은 거의 없을 거예요. 하지만 몇 가지는 챙겨갈 만해요.
첫째, 암호학 쪽으로 커리어를 생각한다면 타원곡선과 모듈러 형식의 기초를 알아두는 게 진짜 도움이 돼요. 블록체인, 영지식 증명(ZK proof), 포스트 양자 암호 같은 분야가 전부 이 수학 위에 있거든요. 둘째, '좋은 추상화가 분야 전체를 바꾼다'는 교훈이에요. 세르가 만든 언어 덕분에 이후 수십 년의 수학이 같은 문법으로 대화할 수 있게 됐어요. 우리가 REST나 컨테이너 같은 공용 추상화 덕분에 협업할 수 있는 것과 비슷하죠. 셋째, 세르는 80대, 90대에도 논문을 쓰고 강연을 했어요. 기술 변화가 빠른 우리 업계에서 '오래 배우는 사람'의 모델로 삼아볼 만해요.
마무리
한 줄로 정리하면, 세르는 현대 수학의 문법을 만든 사람이고 그 문법 위에서 우리가 쓰는 암호 기술이 돌아가고 있어요.
여러분은 개발하면서 '이건 수학을 좀 더 알았으면 좋았겠다' 싶었던 순간이 있으셨나요? 아니면 반대로 수학 없이도 충분했다고 느끼시나요? 댓글로 나눠주세요.
🔗 출처: Hacker News