2023年10月6日，日本谷歌宣布推出轻量级的开放多模态模型“EmbeddingGemma 2”，该模型支持从文本到视频的多种数据类型。目前，用户可以通过Hugging Face和Kaggle下载模型权重。该模型支持使用MediaPipe和LiteRT进行设备端部署，并兼容多种开发工具。
EmbeddingGemma 2不仅支持文本，还能将代码、图像、视频和音频整合到统一的嵌入空间中。该模型基于Gemma 4架构构建，采用允许商业使用的Apache 2.0开源许可发布。模型参数数量为7.4亿，针对设备端推理进行了优化。
其主要特点包括：在参数少于10亿的多模态嵌入模型中，EmbeddingGemma 2在MTEB Code和MAEB等基准测试中表现出色，性价比高。模型采用模块化设计，文本编码器参数为2.7亿，图像编码器为1.7亿，音频编码器为3亿。
此外，EmbeddingGemma 2利用套娃式表示学习（MRL）技术，能够将输出向量从768维动态压缩至512、256或128维，从而提升本地向量数据库的存储效率和内存使用率。
该模型在资源受限环境下表现高效。例如，在使用量化技术的谷歌Pixel 11 Pro手机上，文本模型权重占用约191MB内存，完整多模态模型占用约567MB内存。
EmbeddingGemma 2的上下文窗口大小是前代模型的4倍，支持8K令牌，能够在本地硬件上直接处理最长5.5分钟的音频、29张图像或58帧视频，极大提升了多模态数据的处理能力。
