1비트로 압축한 4B 이미지 생성 모델, 이젠 폰에서도 그림을 그린다

무슨 일이냐면

PrismML이라는 곳에서 "Bonsai Image 4B"라는 재밌는 모델을 공개했어요. 이름이 좀 특이하죠? Bonsai(분재)처럼 작게 다듬었다는 의미예요. 40억 개(4 Billion)의 파라미터를 가진 이미지 생성 모델인데, 핵심은 이 모델을 1비트로 양자화(quantization)해서 휴대폰이나 노트북 같은 로컬 디바이스에서도 돌아가게 만들었다는 점이에요.

이게 왜 놀라운 일이냐면요, 보통 Stable Diffusion이나 Flux 같은 이미지 생성 모델들은 최소 8GB VRAM 이상의 GPU가 있어야 그나마 돌아가요. Flux.1 같은 최신 모델은 24GB도 빠듯하고요. 그런데 Bonsai는 그걸 수백 MB 수준으로 압축해서, 클라우드 서버 없이 내 기기에서 직접 이미지를 만들 수 있게 한 거예요.

1비트 양자화가 뭐길래

조금 풀어서 설명드릴게요. 양자화(quantization)라는 게 뭐냐면, AI 모델 안에 들어 있는 숫자들의 정밀도를 낮추는 기술이에요. 원래는 한 숫자를 32비트(소수점 아래까지 정밀하게) 또는 16비트로 저장하는데, 이걸 8비트, 4비트, 심지어 1비트까지 줄이는 거죠. 비유하자면 고해상도 사진을 저용량 JPEG로 압축하는 거랑 비슷해요. 화질은 조금 떨어지지만 파일 크기가 훨씬 작아지죠.

1비트라는 건 극단적인 케이스예요. 각 가중치(weight)가 사실상 -1, 0, +1 같은 몇 개의 값만 가질 수 있게 만드는 거거든요. 메모리는 16비트 대비 16분의 1로 줄어드는 대신, 모델 품질이 박살날 위험이 커요. 그래서 그동안은 "1비트는 너무 극단적이라 안 된다"가 정설이었는데, 마이크로소프트의 BitNet 연구가 "잘 훈련하면 1비트도 풀 정밀도에 근접한 성능이 나온다"는 걸 보여주면서 분위기가 바뀌었어요.

Bonsai는 그 흐름을 이미지 생성 영역으로 가져온 사례예요. 텍스트 생성(LLM)에서는 BitNet, 1bit-LLM 같은 시도가 활발했는데, 이미지 생성은 디퓨전 과정에서 노이즈를 정밀하게 다뤄야 해서 더 어려웠거든요. 그걸 4B 규모에서 구현해냈다는 게 핵심이에요.

어떻게 동작하는지

Bonsai의 구조를 들여다보면, 일반적인 디퓨전 트랜스포머(DiT) 아키텍처를 베이스로 하되, 가중치를 삼중 값(ternary: -1, 0, +1)으로 저장하고, 활성화는 8비트 정수로 유지하는 방식을 써요. 이러면 행렬 곱셈이 그냥 덧셈과 뺄셈만으로 계산되거든요. 곱셈이 사라지니까 모바일 CPU나 NPU에서도 충분히 빠르게 돌아가는 거예요.

실제로 공개된 데모를 보면, M2 맥북에서 초당 몇 토큰씩 이미지를 생성하고, 최신 안드로이드 폰에서도 1024x1024 이미지를 십수 초 안에 뽑아낼 수 있다고 해요. 클라우드 API 호출 없이, 인터넷 없이, 내 기기 안에서만 도는 거죠.

품질은 어떨까요? FP16 풀 정밀도 모델과 비교하면 디테일이 살짝 떨어지긴 해요. 머리카락 한 올 한 올, 손가락 같은 미세한 부분에서 약간 어색함이 나올 수 있고요. 하지만 일러스트, 컨셉 아트, 썸네일 같은 용도로는 충분히 쓸 만한 수준이라고 평가받고 있어요.

업계 맥락에서 보면

로컬에서 도는 이미지 생성 모델은 그동안 계속 작아지는 추세였어요. Stable Diffusion 1.5(약 1B 파라미터)부터 SDXL, 그리고 Apple이 발표한 Core ML 최적화 버전, Stability AI의 Stable Diffusion 3 Medium 같은 게 다 "어떻게 하면 더 작은 기기에서 돌릴까"에 초점을 맞췄거든요. 구글도 Gemini Nano로 모바일 온디바이스 AI에 진심이고, 애플도 Apple Intelligence로 같은 방향을 가고 있어요.

Bonsai가 이 흐름에서 차별화되는 지점은 1비트라는 극단적인 접근이에요. 보통은 4비트나 8비트에서 타협하는데, 거기서 한참 더 밀어붙인 거죠. 만약 이 접근이 잘 통한다는 게 검증되면, 앞으로 모든 온디바이스 AI 모델이 1비트 기반으로 재설계될 가능성도 있어요. 메모리 절약 효과가 너무 크거든요.

경쟁자로는 SDXL Turbo, LCM(Latent Consistency Model), 그리고 최근 나온 Flux Schnell의 양자화 버전들이 있어요. 각각 속도와 품질 사이의 다른 지점을 노리는데, Bonsai는 "메모리 절약을 극단으로" 가져간 케이스로 자리잡을 것 같아요.

한국 개발자에게 시사하는 것

온디바이스 이미지 생성이 진짜로 가능해지면, 모바일 앱 시장에 새로운 기회가 열려요. 예를 들어 프로필 사진 생성, 이모티콘 자동 제작, 사진 편집 앱의 AI 기능 같은 게 서버 비용 0원, 응답 시간 즉시, 프라이버시 100%로 가능해지거든요. 지금까지는 API 호출 비용 때문에 머뭇거렸던 아이디어들을 다시 꺼내볼 만해요.

특히 한국처럼 카메라/이미지 앱 사용자가 많은 시장에서는 매력적이에요. 스노우, B612, 카카오 이모티콘 같은 서비스가 이런 기술을 어떻게 녹여낼지 상상해보면 재밌죠. 또 의료 영상이나 보안 카메라처럼 데이터를 외부로 못 보내는 도메인에서도 큰 의미가 있어요.

다만 아직 1비트 모델은 안정성 검증이 충분치 않고, 한국어 프롬프트 대응이나 한국적 미감 학습은 부족할 수 있어요. 파인튜닝이나 LoRA를 붙여서 쓰는 방향으로 접근하면 좋을 것 같네요.

마무리

클라우드 GPU 없이도 폰에서 이미지를 만드는 시대가 진짜로 오고 있어요. Bonsai는 그 미래로 가는 길에 놓인 흥미로운 이정표 같은 모델이에요.

여러분이라면 온디바이스 이미지 생성으로 어떤 서비스를 만들어보고 싶으신가요? 서버 비용 걱정 없이 마음껏 굴릴 수 있다면 기획이 어떻게 달라질까요?