수식을 '손으로' 푸는 AI 학습법 — Tom Yeh 교수의 뉴스레터가 보여주는 것

딥러닝을 처음 접하는 실무자 대부분은 비슷한 경로를 밟는다. 프레임워크를 불러오고, 잘 정리된 예제 코드를 몇 줄 실행하고, 손실 값이 떨어지는 그래프를 확인한다. 모델은 돌아가지만, 그 안에서 행렬이 어떻게 곱해지고 가중치가 어떻게 갱신되는지는 라이브러리라는 블랙박스 뒤에 가려진다. Tom Yeh 교수가 운영하는 뉴스레터 'AI by Hand'는 정확히 이 지점을 겨냥한다. 이름 그대로 수학과 알고리즘, 그리고 신경망 아키텍처를 코드가 아니라 '손으로' 직접 풀어보자는 것이 핵심 콘셉트다.

왜 지금 '손 계산'인가

생성형 AI 열풍 이후 관련 학습 자료는 넘쳐나지만, 대부분은 두 극단 중 하나에 몰려 있다. 한쪽은 개념을 비유로만 설명하는 대중적 소개글이고, 다른 한쪽은 곧바로 논문 수준의 수식과 구현으로 넘어간다. 그 사이에서 '실제로 숫자를 넣어 한 스텝을 끝까지 계산해 보는' 경험은 의외로 비어 있다. AI by Hand가 다루는 수학·알고리즘·아키텍처를 손으로 전개한다는 접근은 이 공백을 파고든다. 어텐션 한 층, 역전파 한 번을 종이 위에서 끝까지 따라가 본 사람과, 함수 호출로만 접한 사람은 같은 코드를 봐도 이해의 해상도가 다르다.

이 뉴스레터는 서브스택(Substack) 기반으로 운영되며 수만 명 규모의 구독자를 확보한 것으로 소개된다. 특정 기업이나 교육 플랫폼에 종속되지 않은 개인 발행 채널이 이 정도 규모를 모았다는 사실 자체가, 손으로 계산하며 원리를 이해하려는 학습 수요가 결코 작지 않음을 보여준다. 자동화 도구가 발전할수록 오히려 '내부가 어떻게 돌아가는가'를 알고 싶어 하는 사람이 늘어나는 역설적 흐름과도 맞닿아 있다.

실무자에게 주는 의미

한국의 개발자나 데이터 분석가 입장에서 이런 접근이 갖는 실무적 가치는 분명하다. 모델이 기대와 다르게 동작할 때, 문제의 원인을 좁혀 들어가려면 결국 내부 연산에 대한 감각이 필요하다. 임베딩 차원이 왜 그 크기여야 하는지, 소프트맥스가 왜 특정 값에서 포화하는지, 그래디언트가 어디서 소실되는지를 직관적으로 짚어낼 수 있는가는 디버깅과 튜닝의 속도를 좌우한다. 손으로 한 번 계산해 본 개념은 나중에 코드로 마주쳤을 때 훨씬 빠르게 복원된다. 이는 단순 암기가 아니라 절차적 이해에 가깝기 때문이다.

또한 이런 자료는 팀 내 학습 도구로도 쓸모가 있다. 신입 엔지니어에게 논문 대신 한 연산의 전개 과정을 먼저 손으로 따라가게 하면, 이후 라이브러리 문서를 읽을 때 맥락을 잡는 부담이 줄어든다. 개념을 그림과 숫자로 분해하는 방식은 언어 장벽이 있는 학습자에게도 상대적으로 접근이 쉽다는 이점이 있다.

분명한 한계도 있다

다만 손 계산 중심의 학습을 만능으로 볼 수는 없다. 종이 위에서 다룰 수 있는 것은 규모가 작은 예시에 국한된다. 실제 대규모 모델의 학습 동역학, 분산 처리, 수치 안정성 같은 문제는 손 계산만으로는 체감하기 어렵다. 원리를 이해한 뒤에는 반드시 실제 코드와 대규모 실험으로 넘어가야 이론과 실전 사이의 간극을 메울 수 있다. 손 계산은 출발점이자 직관의 토대일 뿐, 도착점은 아니다.

결국 AI by Hand 같은 자료의 위치는 명확하다. 자동화된 도구가 결과를 빠르게 내주는 시대일수록, 그 결과가 어떻게 만들어졌는지를 스스로 계산해 본 경험은 차별화된 자산이 된다. 도구를 쓰는 능력과 도구의 내부를 이해하는 능력은 대체 관계가 아니라 보완 관계다. 원리를 손으로 짚어보는 학습은 후자를 채우는, 여전히 유효한 방법 중 하나다.