프런티어 LLM이 신경망의 가중치를 직접 읽고, 쓰고, 고칠 수 있다는 아이디어를 '가중치 공간 프로그래밍(Weight-Space Programming, WSP)'이라고 부른다. 최초의 소개 글에서는 GPT-6 Astra라는 모델이 바둑을 두는 신경망을 밑바닥부터 짜고, 연습 대국 결과와 패배 분석을 바탕으로 가중치를 수정하며 스스로 성능을 끌어올렸다. 가중치를 쓰고(write), 시험하고(test), 고치는(edit) 순환은 경사하강법과는 다른 새로운 학습 방식처럼 보인다. 한 연구자가 이 발상을 손글씨 숫자 분류 문제인 MNIST에 직접 적용해 본 결과, 흥미롭게도 그 정체는 딥러닝 이전 시대의 수작업 기법에 대한 역사 수업에 가까웠다.
실험 설정은 원래의 바둑 테스트보다 훨씬 엄격했다. 구조가 고정된 CNN이 주어지고, 모델(Claude Fable 5.2)은 5,994개의 가중치를 전부 '손으로' 채워야 한다. 피팅, 회귀, 탐색은 금지되고 수식이나 획을 바탕으로 필터와 템플릿을 직접 그리는 것만 허용된다. 코드는 NumPy·SciPy·math만 쓸 수 있는 샌드박스에서 돌고, 모델은 최대 50단계에 걸쳐 매 단계 훈련 손실·정확도·혼동행렬만 피드백으로 받는다. 1만 장의 훈련 이미지만 보고 1만 장의 공식 테스트 이미지는 끝까지 보지 못한다. 그런데도 세 번의 실행 모두 테스트셋에서 90% 안팎에 도달했는데, 이는 Adam 옵티마이저로 50스텝 학습한 수준과 비슷하다.
1990년대 엔지니어처럼 쌓는 파이프라인
1998년 르쿤(LeCun)은 MNIST를 소개한 논문에서 당시 접근법을 "고정된 특징 추출기와 학습 가능한 분류기"로 규정했고, 특징 추출기는 "대개 전적으로 수작업"이며 정확도는 "설계자가 적절한 특징을 고안하는 능력에 크게 좌우된다"고 썼다. 바로 그 고된 작업을 모델이 떠안는다. 가장 좋았던 1차 실행(91.3%)을 따라가 보면, 첫 층은 수식으로 쓴 네 방향 선 검출기로 시작한다. 이는 1990년대 숫자 인식기가 쓰던 Sobel 필터의 사촌 격이다. 다음 층은 각 검출기의 반응을 패치별로 모아 이미지를 4×4 격자로 바꾸고, 모델은 숫자 0~9를 획으로 직접 그려 같은 형식의 표로 만든 뒤 이를 최종 층의 가중치(로그 오즈를 온도로 나눈 값)로 삼는다. 결국 이것은 문자 인식에서 가장 오래된 기법인 템플릿 매칭과, 각 특징을 독립 증거로 다루는 나이브 베이즈식 채점이다.
진행 과정도 옛 엔지니어를 닮았다. 첫 신경망은 71%, 틀린 숫자를 다시 그려 77%로 올린다. 이후 코너 검출기를 조합해 닫힌 고리(0·6·8·9) 검출기를 만들고, 흥미롭게도 분류를 잠시 멈춘 채 고리 검출기만 따로 시험한다. 출력층을 재배선해 혼동행렬의 각 행을 특정 숫자에 대한 검출기 반응 히스토그램으로 바꾸는, 일종의 단위 테스트다. 그렇게 고리 검출기가 8의 83%에서 반응함을 알아낸다. 규칙상 신경망을 돌리거나 피팅하지 않고 이미지도 보지 않으며 테스트셋도 건드리지 않으니 반칙은 아니다. 31단계에 이르러서는 손으로 그린 템플릿을 전부 버리고, 훈련셋에서 특징별 발생 빈도를 측정해 세운 순수 나이브 베이즈 분류기로 갈아탄다. 결국 '손으로 분류기를 피팅'하는 셈이다.
다만 Adam과의 비교는 대등하지 않다. Adam의 50스텝은 매번 64장씩 총 3,200장만 보는 반면, 모델은 매 단계 1만 장 전체에 대한 점수를 받는다. 모델 간 차이도 드러났는데, Opus 5.5는 같은 도구 상자(획 검출기, 템플릿, 최근접 중심, 나이브 베이즈)를 꺼내 들었지만 측정보다 추측을 선호해 74%를 넘지 못했다. 많이 측정할수록 성능이 좋았다는 점이 Fable과의 결정적 차이였다.
수작업 특징의 한계
같은 테스트를 캐글의 개·고양이 사진(64×64, 가중치 24,898개)에 적용하자 한계가 분명해졌다. Fable은 뾰족한 귀, 눈·코 삼각형, 풀 같은 검출기를 설계했지만 대부분 소득이 없었다. 오히려 효과를 본 것은 동물이 아니라 사진의 속성이었다. 개 사진에 녹색(풀·야외)이 많고 질감과 수직 에지가 많다는 세 가지를 쓴 9단계 신경망이 최고였다. 최종 61.6%로, 동전 던지기(50%)와 500스텝 Adam(55%)보다는 낫지만 5,000스텝 Adam의 74%에는 못 미쳤다. 게다가 17단계에 8.08달러가 들 만큼 비쌌다. 손으로 깎은 특징은 깔끔하고 해석 가능한 숫자에는 통하지만, 풍부한 자연 이미지 앞에서는 금세 벽에 부딪힌다는 뜻이다.
원글의 바둑 신경망도 같은 렌즈로 보면 맥이 닿는다. Astra는 9×9 바둑용 150만 파라미터 신경망을 0으로 초기화한 채 학습·피팅·탐색 없이, 최대 128판의 연습 대국 결과만 보여주는 '패스'를 활용했다. 50패스를 쓴 신경망은 PPO로 학습한 작은 신경망 두 개를 80% 이상 이겼고, 2,050만 판으로 학습한 동급 신경망도 대체로 이겼다. 연습 대국이 전혀 없어도 작은 상대에게 절반 이상 승리했다.
실무자에게 이 실험이 주는 함의는 분명하다. LLM의 가중치 쓰기는 마법 같은 새 학습법이라기보다, 모델이 수십 년간 축적된 고전 특징 공학 지식을 소환해 손으로 재현하는 과정에 가깝다. 깨끗하고 구조가 뚜렷한 문제에서는 경사하강법에 근접하지만, 데이터가 복잡해질수록 비용은 치솟고 성능 상한은 낮아진다. 모델이 무엇을 '측정'하도록 유도하느냐가 결과를 좌우한다는 점은, 이 방식을 평가하거나 활용할 때 반드시 염두에 둘 지점이다.