생성 AI를 실무에서 다루는 사람이 늘어나면서, 모델을 '쓸 줄 아는 것'과 '왜 그렇게 작동하는지 아는 것' 사이의 간극도 함께 벌어지고 있다. API를 호출하고 파인튜닝 스크립트를 돌리는 데는 수식이 거의 필요 없지만, 왜 어떤 모델은 샘플 품질이 좋고 어떤 모델은 학습이 불안정한지, 왜 특정 손실 함수를 쓰는지를 이해하려면 결국 바탕에 깔린 수학으로 내려가야 한다. arXiv에 공개된 'The Little Book of Generative AI Foundations: An Intuitive Mathematical Primer'는 바로 그 바탕을 겨냥한 입문서다.
이 책의 성격은 제목의 'primer(입문서)'라는 단어와 'derivation-oriented(유도 중심)'라는 설명에 집약돼 있다. 최신 아키텍처를 하나하나 소개하거나 구현 세부사항을 나열하는 백과사전식 접근이 아니라, 생성 모델이라는 아이디어가 어떻게 수식으로 유도되고 서로 어떻게 연결되는지를 하나의 일관된 경로로 풀어낸다. 저자가 밝힌 목표는 수학적 알맹이를 걷어내지 않으면서도 생성 모델링의 구조 자체를 더 접근하기 쉽게 만드는 것이다. 즉, 난이도를 낮추기 위해 수식을 생략하는 흔한 타협 대신, 수식을 '따라갈 수 있게' 배치하는 쪽을 택했다.
한 줄기로 이어지는 모델 계보
책이 다루는 범위는 생성 모델의 주요 계열을 거의 망라한다. 주성분분석(PCA)에서 출발해 확률적 PCA(probabilistic PCA)로 넘어가고, 변분 오토인코더(VAE)와 확산 모델(diffusion models)로 이어진다. 여기에 정규화 흐름(normalising flows), 자기회귀 분해(autoregressive factorisations), 생성적 적대 신경망(GAN)과 바서슈타인 GAN(Wasserstein GAN), 그리고 에너지 기반 모델(energy-based models)까지 포함된다. 오늘날 이미지·텍스트·음성 생성의 주류를 이루는 거의 모든 패러다임이 한 권 안에 들어온 셈이다.
이 구성에서 주목할 지점은 단순한 나열이 아니라 '연결'에 방점이 찍혀 있다는 것이다. PCA라는 선형적이고 결정론적인 차원 축소에서 시작해 여기에 확률 모델의 옷을 입히면 확률적 PCA가 되고, 잠재 변수에 대한 추론을 변분적으로 근사하면 VAE에 닿는다. VAE의 잠재 공간 아이디어를 시간 축으로 여러 단계에 걸쳐 노이즈를 더하고 되돌리는 과정으로 확장하면 확산 모델의 틀이 보인다. 이처럼 각 모델을 고립된 기법이 아니라 공통된 수학적 원리에서 갈라져 나온 변주로 바라보게 한다는 점이 이 책의 핵심 설계다.
실무자에게 주는 실질적 가치
한국의 IT 실무자 입장에서 이런 유도 중심 입문서가 갖는 쓸모는 분명하다. 현업에서 확산 모델과 GAN, 자기회귀 모델 중 무엇을 택할지 판단할 때, 각 계열이 전제하는 가정과 학습 방식의 차이를 알면 선택의 근거가 달라진다. 예를 들어 GAN 계열의 학습 불안정성, 바서슈타인 거리 도입의 배경, 확산 모델이 왜 안정적으로 학습되면서도 샘플링 비용이 큰지 같은 트레이드오프는 모두 수학적 유도 과정에 뿌리를 둔다. 표면적인 벤치마크 수치만 보는 것과 그 수치가 나오는 구조적 이유를 아는 것은 기술 의사결정의 질을 가른다.
또한 이 책은 서로 다른 모델 사이를 오가며 연구 동향을 읽어야 하는 사람에게 일종의 지도 역할을 할 수 있다. 논문마다 등장하는 변분 하한, 정규화 흐름의 가역 변환, 에너지 함수와 분배 함수 같은 개념들이 어디서 나와 어디로 이어지는지를 하나의 계보 안에 놓고 보면, 새로운 아키텍처가 나와도 기존 지식에 붙여 이해하기가 수월해진다. 저자가 대상 독자로 '수학적으로 호기심이 있는 연구자, 실무자, 학생'을 함께 꼽은 것도 이런 가교 역할을 염두에 둔 것으로 읽힌다.
기대와 한계를 함께 볼 것
다만 이 책의 성격상 분명한 한계도 함께 짚어야 한다. 저자 스스로 밝혔듯 최신 아키텍처를 전부 다루거나 구현 세부를 설명하는 책이 아니다. 따라서 당장 프로덕션에 모델을 올리거나 특정 라이브러리로 코드를 짜야 하는 사람에게 바로 떨어지는 실전 레시피를 기대하기는 어렵다. 이 책이 채우는 것은 그 아래층, 즉 어떤 프레임워크를 쓰든 바뀌지 않는 수학적 토대다. 또 '입문서'를 표방하지만 수식을 걷어내지 않았기 때문에, 선형대수와 확률론에 대한 기본기가 없으면 유도 과정을 따라가는 데 상당한 노력이 필요하다는 점도 감안해야 한다.
결국 이 책의 자리매김은 명확하다. 생성 AI를 도구로 쓰는 단계를 넘어, 그 작동 원리를 스스로 재구성해보고 싶은 사람에게 적합한 토대 다지기용 자료다. 빠르게 결과를 내야 하는 상황에서는 다른 실전 자료가 낫겠지만, 쏟아지는 모델들 사이에서 길을 잃지 않는 내비게이션을 손에 쥐고 싶다면 한 번쯤 정독해볼 만한 선택지다.