Google EmbeddingGemma 2, 이미지와 음성 영상까지 담는 740M 오픈 임베딩 모델

작은 오픈 모델 하나로 글, 코드, 사진, 소리, 영상을 함께 검색할 수 있는 벡터로 바꿔 주며, 기기 안에서도 돌아간다는 점이 특징이다.

작동 방식

구조는 모듈식이다. Gemma 4 아키텍처를 바탕으로 한 270M 텍스트 백본에, 선택적으로 170M 비전 인코더와 300M 오디오 인코더를 붙인다. 합치면 740M이다. 한 번의 처리로 최대 5.5분 길이의 음성, 이미지 29장, 영상 프레임 58장을 읽을 수 있다.

Matryoshka 학습을 적용해 출력 벡터를 512, 256, 128차원으로 잘라 쓸 수 있다. 이렇게 하면 저장 공간을 최대 6배까지 줄일 수 있다. 기본 임베딩 크기는 768이다.

주요 스펙

컨텍스트 창은 8K 토큰으로 EmbeddingGemma 1의 4배이다. 입력은 텍스트, 코드, 이미지, 음성, 영상이고, 가중치는 Hugging Face와 Kaggle에서 받을 수 있다. transformers, sentence-transformers, MLX, vLLM, llama.cpp, SGLang, Ollama, LM Studio가 지원 런타임으로 안내돼 있다. 모델 카드에는 SearchQuery와 Document 프롬프트를 따로 쓰는 sentence-transformers 예제가 들어 있고, 실행 예는 SentenceTransformer("google/embeddinggemma-2") 형태이다.

코드 검색 성능인 MTEB Code 점수는 68.76에서 78.68로 올라 9.92점 향상됐다. Google은 크기가 두 배가 넘는 일부 전문 모델보다 낫다고 하지만 어떤 모델인지는 밝히지 않았다.

휴대폰에서 돌아갈까

가능하다고 Google은 설명한다. Google Pixel 11 Pro에서 양자화를 적용해 측정했을 때 활성 메모리는 텍스트만 쓸 경우 약 191MB, 멀티모달 인코더를 모두 쓸 경우 약 567MB였다. 기기 내 배포는 MediaPipe와 LiteRT를 통해 이뤄지며, Google AI Edge Gallery에도 들어 있다.

왜 중요한가

기기 안에서 도는 검색이나 RAG 시스템은 지금까지 미디어 종류마다 별도 모델이 필요한 경우가 많았다. 멀티모달 임베딩 모델 하나가 있으면 음성 메모로 영상 클립을 찾거나, 몇 시간 분량의 오디오를 기기 안에서 검색하는 앱을 만들 수 있다.

참고할 점

Apache 2.0 라이선스라서 상업적 사용이 가능하다. 다만 모델 카드에는 사용이 Gemma 금지 사용 정책의 적용을 받으며, 개발자가 애플리케이션 차원에서 자체 안전장치를 마련해야 한다고 적혀 있다. 주 대상은 검색, RAG, 온디바이스 앱을 만드는 개발자이다.

첫 버전과 비교

EmbeddingGemma 2는 텍스트만 받던 원본에 이미지, 음성, 영상 입력을 더했다. 크기는 740M으로 커졌고 컨텍스트 창은 네 배 넓은 8K 토큰이 됐다. 코드 검색 성능도 MTEB Code 기준 68.76에서 78.68로 좋아졌다. 모든 입력이 같은 768차원 공간에 놓이기 때문에, 서로 다른 종류의 자료를 하나의 벡터 검색으로 비교할 수 있다.

활용 예

같은 공간에 모든 미디어를 넣을 수 있다는 점은 실제 앱 설계를 단순하게 만든다. 예를 들어 음성 메모를 질의로 삼아 영상 클립을 찾거나, 몇 시간 분량의 오디오를 휴대폰 안에서 검색하는 앱을 생각해 볼 수 있다. 데이터가 기기 밖으로 나가지 않는 구성이므로 온디바이스 검색에 어울린다.

저장 공간이 부족하다면 Matryoshka 방식으로 벡터를 512, 256, 128차원으로 줄여 쓰는 방법이 있다. 보관해야 할 벡터가 많은 서비스에서는 저장 비용을 최대 6배까지 낮출 수 있다. 텍스트만 쓰는 서비스라면 비전과 오디오 인코더 없이 270M 텍스트 백본만으로 구성해 메모리를 아낄 수 있다.