세포처럼 자라는 신경망, Growing Neural Cellular Automata 다시 보기

도마뱀 꼬리처럼 스스로 복원되는 그림

이미지 한 장을 떠올려 보세요. 그 이미지를 가위로 반쯤 잘라낸 다음, "알아서 다시 자라봐"라고 하면 어떻게 될까요? 말이 안 되는 얘기처럼 들리지만, 2020년에 Distill 저널에 발표된 Growing Neural Cellular Automata(성장하는 신경 셀룰러 오토마타) 연구는 그걸 실제로 해냈어요. 잘려나간 이미지의 픽셀들이 자기 주변을 보면서 "여기서 내가 무엇이 되어야 하지?"를 스스로 판단해서 원래 모양으로 복원해요. 도마뱀이 꼬리를 재생하듯이요.

이 논문은 발표 당시에도 충격이었지만, 시간이 지날수록 더 자주 인용되고 있어요. 최근 LLM과 거대 모델의 흐름과는 정반대로, 아주 작은 모델이 지역적인 규칙만으로 복잡한 행동을 만들어낼 수 있다는 걸 보여주거든요.

셀룰러 오토마타가 뭐였더라

먼저 셀룰러 오토마타(Cellular Automata, CA)부터 짚고 갈게요. 격자 위에 칸들이 있고, 각 칸은 "살아있다/죽었다" 같은 상태를 가져요. 그리고 정해진 규칙에 따라 자기 주변 칸들의 상태를 보고 다음 순간 자기 상태를 결정해요. 가장 유명한 게 콘웨이의 생명 게임(Conway's Game of Life) 이에요. "주변에 살아있는 칸이 2~3개면 살고, 그렇지 않으면 죽는다" 같은 단순한 규칙 몇 개로 우주선 모양 패턴이 움직이고, 발진기가 깜빡이고, 심지어 튜링 머신까지 시뮬레이션할 수 있어요.

Growing CA는 이 아이디어를 신경망과 결합했어요. 각 칸은 단순히 살았다/죽었다가 아니라 16차원의 벡터를 갖고 있어요. 처음 4개는 RGBA(색깔과 투명도)이고, 나머지 12개는 "숨겨진 상태"예요. 일종의 화학물질 농도라고 생각하면 돼요. 그리고 각 칸이 다음 상태를 결정할 때 쓰는 규칙이 사람이 짠 if문이 아니라 작은 신경망이에요.

어떻게 학습시키나요

학습은 이렇게 진행돼요. 가운데에 한 픽셀만 켜진 상태에서 시작해서, 신경망이 정해진 규칙대로 칸들의 상태를 업데이트해 나가요. 그러다 보면 한 점에서 시작한 패턴이 점점 자라나서 어느 순간 "도마뱀 이모지" 같은 목표 이미지에 가까워져요. 목표와 실제 결과의 차이를 손실로 잡아서 신경망을 역전파로 학습시켜요.

핵심은 모든 칸이 똑같은 신경망을 공유한다는 거예요. 어디 있든 같은 규칙을 따르되, 주변 이웃의 상태에 따라 다르게 행동해요. 이게 바로 "분산되고 자기조직화하는 시스템"의 본질이에요. 중앙 통제자가 없어요. 그런데도 전체적으로 보면 일관된 모양이 만들어져요.

더 놀라운 건 학습 도중에 이미지를 일부러 망가뜨리는 훈련도 같이 한다는 점이에요. 다 자란 이미지의 일부를 지워버리고 "여기서 다시 복원해봐" 하는 식으로요. 그래서 결과적으로 자라는 능력만이 아니라 복원하는 능력까지 갖게 돼요. 신경망 입장에서는 자기 주변만 보고 "어, 여기 비어있네? 옆에 빨간색이니까 나도 빨간색이 되어야겠다" 같은 판단을 학습하게 되는 거예요.

왜 지금 다시 회자될까

2026년 시점에서 이 연구가 다시 주목받는 이유가 있어요. 첫째, 모델 크기에 대한 의문이에요. 요즘 AI는 모든 게 거대해지는 방향이에요. 수천억 파라미터 LLM, 수십 GB 모델 가중치. 그런데 Growing CA는 8천 개 정도의 파라미터만으로 자기 복원이 가능한 행동을 만들어내요. 적절한 구조와 학습 방식이라면 작은 모델도 강력할 수 있다는 증거예요.

둘째, 로보틱스와 임베디드 AI예요. 자율 군집 로봇이나 모듈러 로봇 분야에서 이 아이디어를 가져다 쓰는 시도가 늘고 있어요. 중앙 서버 없이 각 로봇이 자기 주변만 보고 협력해서 모양을 만들거나 작업을 수행하는 시나리오에서 Growing CA의 학습 방식이 그대로 통하거든요.

셋째, 생물학적 발달과의 연결이에요. 우리 몸은 수정란 한 개에서 시작해 수십조 개의 세포로 분화하는데, 각 세포는 전체 설계도를 갖고 있지 않아요. 그저 주변 세포의 신호를 보고 자기 역할을 결정할 뿐이에요. Growing CA는 이 과정의 단순화된 모델로 컴퓨터 시뮬레이션과 발달생물학을 잇는 다리가 되고 있어요.

비슷한 결의 연구들

관련해서 챙겨볼 만한 흐름이 몇 가지 있어요. Lenia는 셀룰러 오토마타를 연속 공간으로 확장한 연구로, 생명체처럼 움직이는 패턴들을 만들어내요. Neural Cellular Automata + Transformer 결합 연구도 있어서, 어텐션으로 더 먼 거리 정보까지 활용하는 시도가 진행 중이에요. 그리고 Google Research의 Particle Lenia, Flow Lenia 같은 후속 연구도 비슷한 결을 갖고 있어요.

한국 개발자에게 주는 영감

당장 실무에 쓸 수 있는 기술은 아닐 수 있어요. 하지만 분산 시스템 설계 철학의 좋은 레퍼런스가 될 수 있어요. 마이크로서비스든, 멀티 에이전트 시스템이든, 결국 "중앙 조정자 없이 각 노드가 지역 정보로 의사결정을 하면서 전체가 일관되게 작동하려면 어떻게 해야 하나"가 핵심 질문이거든요. Growing CA는 그 질문에 대한 한 가지 흥미로운 답이에요.

그리고 ML 공부 중이라면 Distill에 올라간 원본 글을 꼭 한 번 읽어보세요. 인터랙티브 시각화가 정말 잘 되어 있어서 슬라이더를 움직이면서 직관을 키우기 좋아요. PyTorch나 JAX로 직접 구현해보는 것도 며칠이면 가능한 작은 규모라 ML 입문 프로젝트로도 훌륭해요.

마무리

작은 규칙이 모여서 큰 행동을 만든다는 아이디어, 단순하지만 깊어요. 거대 모델의 시대에 "작고 분산된 지능"이라는 정반대 방향이 다시 떠오르는 게 흥미롭죠. 여러분은 거대 모델과 작은 분산 모델, 어느 쪽이 다음 5년의 AI 흐름을 더 많이 차지할 거라고 보세요? 그리고 실무에서 "중앙 조정자 없이 협력하는 시스템"을 설계해본 경험이 있으시다면 어떤 점이 가장 어려웠는지 궁금해요.