구글이 텍스트·이미지·오디오·비디오를 하나의 임베딩 공간으로 묶는 개방형 멀티모달 임베딩 모델 'EmbeddingGemma 2'를 공개했다. 핵심은 이 모든 연산을 클라우드가 아닌 사용자 기기에서 수행한다는 점이다. 임베딩이란 서로 다른 형태의 데이터를 의미적 유사도를 비교할 수 있는 수치 벡터로 변환하는 작업으로, 검색·추천·RAG(검색 증강 생성) 같은 기능의 토대가 된다. 그동안 이 과정은 대개 서버에서 처리됐지만, EmbeddingGemma 2는 이를 단말 쪽으로 끌어내려 데이터 프라이버시와 오프라인 동작을 전면에 내세운다.
이 모델은 지난해 나온 텍스트 전용 EmbeddingGemma의 후속작이다. 전작은 소비자용 하드웨어에서 돌아가는 경량 고품질 텍스트 임베딩을 목표로 했고, 누적 다운로드 2,000만 건을 넘기며 온디바이스 검색 도구와 프라이버시 중심 RAG 파이프라인에 폭넓게 쓰였다. EmbeddingGemma 2는 여기서 한 걸음 더 나아가 텍스트뿐 아니라 코드, 이미지, 비디오, 오디오를 공유 임베딩 공간에 담는다. 예컨대 음성 메모를 단서로 특정 영상 클립을 찾거나, 텍스트 질의로 수 시간 분량의 녹음을 뒤지는 작업을 단일 모델 하나로 처리한다.
아키텍처와 성능
EmbeddingGemma 2는 Gemma 4 아키텍처를 기반으로 하며, 상업적 활용이 자유로운 Apache 2.0 라이선스로 배포된다. 파라미터는 7억 4,000만 개로, 온디바이스 추론에 적합한 규모로 설계됐다. 구글은 이 모델이 Gemini Embedding 계열과 동일한 기술에서 나왔다고 설명한다. 성능 면에서는 전작 수준의 다국어 텍스트 처리 능력을 유지하면서, 코드 영역에서 뚜렷한 향상을 보였다. MTEB Code 벤치마크 점수가 68.76에서 78.68로 9.92점 올랐는데, 이는 로컬 코드베이스 색인, 시맨틱 코드 검색, 코딩 에이전트의 검색 기능 등에 바로 쓸 수 있는 수준이다. 구글은 이미지·비디오·문서·오디오 전반에서 10억 파라미터 미만 모델 가운데 파라미터당 품질 기준으로 새 기준을 세웠으며, 덩치가 두 배 이상인 일부 특화 모델을 능가한다고 밝혔다.
Gemma 4와 묶어 쓰는 온디바이스 RAG
실무적으로 주목할 부분은 생성 모델인 Gemma 4와의 결합이다. EmbeddingGemma 2가 Gemma 4를 기반으로 만들어진 덕에 텍스트 토크나이저와 오디오 인코더를 공유하는데, 이 때문에 두 모델을 하나의 파이프라인에서 함께 돌릴 때 전체 메모리 사용량을 낮출 수 있다. 임베딩 모델이 로컬 파일을 검색해 근거를 찾고 생성 모델이 그 맥락을 바탕으로 추론하는, 복잡한 멀티모달 데이터를 이해하는 온디바이스 RAG 구성이 가능해지는 셈이다. 임베딩을 로컬에서 생성하면 데이터가 외부로 나가지 않아 프라이버시가 지켜지고, 파이프라인 지연도 줄며, 교차 모달 검색을 완전히 오프라인으로 돌릴 수 있다는 것이 구글의 설명이다.
구글은 실제 활용 사례도 함께 제시했다. Google AI Edge Gallery의 Instant Media Search는 텍스트나 이미지로 미디어 라이브러리에서 의미적으로 유사한 항목을 찾고, Video Moments Finder는 텍스트·오디오 질의로 영상 속 특정 순간을 짚어낸다. Foresight 앱은 EmbeddingGemma 2의 로컬 파일 검색과 Gemma 4의 맥락 추론을 결합한 예다. 이 밖에 MediaPipe Decision Task API로 분류·라우팅·예측용 실시간 의사결정 엔진을 만들 수 있으며, 온디바이스 검색과 RAG 시스템은 LiteRT 런타임 위에서 구축하도록 안내한다.
한계도 분명히 짚어둘 필요가 있다. 구글이 공개한 수치는 벤치마크 기준값이며, 실제 단말에서의 추론 속도나 메모리 여유는 기기 성능과 처리하는 데이터 규모에 따라 달라질 수밖에 없다. 7억 4,000만 파라미터가 '온디바이스에 최적'이라고는 하나 저사양 기기에서의 체감 성능은 별도로 검증해야 한다. 그럼에도 상업적으로 자유로운 라이선스 아래 멀티모달 임베딩을 기기 안에 들여놓았다는 점은, 민감 데이터를 외부로 보내기 어려운 서비스나 오프라인 환경을 전제로 하는 애플리케이션을 설계하는 실무자에게 현실적인 선택지를 넓혀준다. 도입을 검토한다면 모델 카드의 전체 평가 지표와 추론·파인튜닝 가이드를 먼저 확인하고, 자사 데이터로 직접 측정해보는 과정이 뒷받침돼야 한다.