지난 1월 파리의 앙리 푸앵카레 연구소(IHP)에 수학자, 역사가, 예술가, 교육자들이 모여 흔치 않은 워크숍을 열었다. 수학 연구에서 삽화(illustration)의 사용을 다룬 특별 학기의 일부로, 이들이 던진 질문은 단순했지만 묵직했다. '삽화가 엄밀(rigorous)하다는 것은 무슨 의미인가.' Kate Stange와 Edmund Harriss가 쓴 이 글은 당시 논의가 불과 몇 달 뒤 '인간이 수학을 한다는 것은 무엇인가'라는 더 큰 질문과 맞닿게 되리라고는 예상하지 못했다고 적는다. 이들의 논의는 라이덴 선언(Leiden Declaration)을 배경으로 한 논문으로 이어졌고, 미국수학회 회보 Notices에 게재가 확정됐다.
증명이라는 척도가 흔들릴 때
배경에는 최근 수학계에서 벌어진 격렬한 논쟁이 있다. Bryna Kra의 진단에 따르면, 오랫동안 수학에서 가장 중요한 성공의 척도는 '정리(theorem)의 생산'이었다. 직위와 상이 거기에 걸려 있었다. 그러나 정리는 애초에 측정하기 어려운 것, 즉 '이해'를 대신하는 대리 지표였을 뿐이다. 깊은 정리는 드물고 어려웠기에 깊은 사고를 가려내는 믿을 만한 신호 역할을 했는데, AI가 바로 그 희소성을 깨뜨렸다는 것이다. Kra에게 증명이란 '하나의 이야기, 그림, 통찰, 설명'이다. Silvia De Toffoli와 Eamon Duede는 수학을 기계가 이길 수 있는 게임으로 보는 관점을 거부하며, 수학은 결과의 등기부가 아니라 '학문 공동체가 관여하고 해석하고 소화하는 지식의 체계'라고 말한다. Matilde Marcolli은 거대한 정리란 애초에 목적이 아니라 공동체가 선택한 가치 체계였을 뿐이며, 그 선택은 다시 내릴 수 있다고까지 주장한다. Grant Sanderson은 이를 실무의 언어로 되묻는다. 증명 이외의 수학적 작업과 이해에 어떻게 실질적인 공로를 인정할 것인가.
저자들은 이 물음이 전혀 새롭지 않다는 점을 역사에서 끌어온다. 19세기 가스파르 몽주의 에콜 폴리테크니크에서는 손으로 그리는 훈련이 수학 교육의 필수였다. 역사가 Frédéric Brechenmacher는 워크숍에서 이를 '그리는 것이 곧 아는 것(Drawing was knowing)'이라고 못 박았다. 이 전통은 20세기에 밀려났지만 사라지지 않았고, 1990년대 Arthur Jaffe와 Frank Quinn의 논문을 둘러싼 증명과 의미의 관계 논쟁에서 다시 수면 위로 올라왔다. 당시 Bill Thurston의 'On Proof and Progress in Mathematics'는 그 대표적 응답으로 지금도 널리 인용된다.
설명이 아니라 탐구로서의 삽화
2019년 ICERM의 학기에서 모양을 갖춘 'Illustrating Mathematics' 공동체가 올해 IHP 학기를 조직한 배경에는 이런 흐름이 있다. 이들의 핵심 관심은 삽화가 단지 이미 아는 것을 설명하는 도구가 아니라, 아직 탐구되지 않은 수학을 탐색하는 연구 방법이라는 점이다. 저자들 자신의 '대수적 별풍경(algebraic starscapes)' 작업이 소박한 예다. 유리수 삼차 다항식의 복소근이 그리는 구조를 셰이더로 그리는 과정에서, 초안 코드가 원을 타원으로 왜곡해버렸다. 그런데 이 의도치 않은 왜곡이 오히려 의미 있는 추가 차원의 구조를 드러냈다. 좋은 증명이 결과 이상을 보여주듯, 좋은 삽화 역시 형태나 패턴의 시연을 넘어선다는 주장이 여기서 구체화된다.
물론 증명과 삽화 모두 오도할 수 있다. 특히 LLM은 양날의 칼이다. 코드를 생성하는 능력 덕분에 삽화 제작은 어느 때보다 쉬워졌지만, '바이브 코딩'으로 생성 알고리즘 자체조차 이해하지 못한 채 결과만 얻게 되면 우리는 지식에서 두 걸음 멀어진다. 이는 증명에서 지금 전면에 떠오른 '소화(digestion)' 문제와 같다. 저자들은 최근 사례를 든다. Ioannis Tsiokos의 요청으로 GPT-6 Astra가 3차원 비주기적 단일 타일 'Chair44'를 찾아 61쪽 논문이 공유됐는데, Tsiokos 본인은 직관적인 기하 논증은 이해했지만 수학은 이해하지 못했다고 밝혔다. 이후 Chaim Goodman-Strauss가 화살표 대응 다이어그램을 중심으로 그 논증을 8쪽으로 정제해 고전적 위계 증명을 제시했다. 결정적 단서는 Tsiokos 논문에 담긴 도형 자체의 삽화였다.
엄밀함과 비평, 그리고 만들며 사고하기
그렇다면 삽화의 엄밀함은 어떻게 정의할 수 있을까. 저자들은 Valeria Giardino의 '사고 도구로서의 표상' 개념에서 어포던스(affordance), 즉 그림이 유도하는 읽기·조작·추론에 주목한다. 더 강한 정의로, 증명이 정확하다고 보증해주는 삽화의 성질을 어포던스로 볼 수 있다는 것이다. 반대로 증명은 겉보기 성질이 사실은 어포던스가 아님을 보일 수도 있다. 초기의 망델브로 집합 이미지가 불연속으로 보였던 것은 픽셀 간격보다 얇은 특징이 누락됐기 때문이며, 픽셀이 충분히 작다면 특정 크기의 돌기 개수 같은 성질은 정확하다고 증명할 수 있다.
정확성을 넘어 삽화의 몰입도나 드러내는 힘은 어떻게 평가할까. 명확한 답은 없지만 예술 교육에는 오래 검증된 방법이 있다. 바로 '크리틱(crit)'이다. 최소한의 소개만으로 작품을 제시하고 관객이 어떻게 받아들이는지, 그 수용이 창작자의 의도와 어떻게 같고 다른지 토론하는 방식이다. 미술 기초 교수 Jean Schmitt가 이 틀을 세워 학기 내내 활용했는데, 이는 겔판트의 모스크바 세미나 스타일과도 닮았다. Schmitt는 Tim Ingold의 '만들며 사고하기(thinking through making)' 개념을 끌어와, 형태와 이해가 과정 속에서, 도구·재료와의 협업 속에서 떠오른다고 설명했다. 몽주의 학생들이 남의 그림을 보는 것이 아니라 직접 그리며 배웠던 것과 같은 맥락이다.
저자들의 결론은 거창한 선언이 아니라 이미 존재하는 일에 대한 인정과 지원이다. 수학자가 된다는 것은 자신의 연구를 발표하고 창조하는 일인 동시에, 타인의 작업에 흥분하는 청중이 되는 일이기도 하다. 공동체는 오래전부터 아름다움과 우아함, 통찰을 공유된 가치로 길러왔으나, 출판과 미해결 문제의 비대해진 중요성이 이를 가려왔을 뿐이다. Illustrating Mathematics, 수학 실천 철학, 여러 대학의 학부·대학원생이 시각화와 실험을 함께하는 Geometry Labs United 네트워크, 그리고 수학 교육과 아웃리치에서 이 작업은 이미 진행 중이다. Sanderson의 요청, 즉 증명 너머의 것에 공로를 돌리는 일은 상당 부분 이 축적된 작업을 알아보고 키우는 데 달려 있다. 한국의 연구·교육 현장에도 던지는 함의는 분명하다. AI가 결과 생산을 흔드는 지금, 평가와 보상의 척도를 결과물 하나에서 이해를 길러내는 과정 전반으로 넓히는 일이 과제로 남는다.