Google EmbeddingGemma 2 发布:五种模态共用 768 维向量空间
作者 | Sergio De Simone译者 | 田橙Google 的 EmbeddingGemma 2 是一款紧凑、开放权重的多模态嵌入模型,基于 Gemma 4 构建,并采用 Apache 2.0 许可证发布。该模型旨在提高语义搜索和检索增强生成(RAG)的效率,同时针对设备端部署优化性能。EmbeddingGe
Google 推出 EmbeddingGemma 2,这是一款紧凑、开放权重的多模态嵌入模型,以
Gemma 4 为基础构建,采用 Apache 2.0 许可证发布。它想解决的是语义搜索和检索增强生成(RAG)的效率问题,同时在设备端部署上做了性能优化。
这款模型瞄准的是手机、笔记本这类消费级硬件,能在本地为搜索、检索增强生成(RAG)、分类和聚类等场景给出低延迟的语义表示。
多模态能力让它能接的检索活儿很杂:按查询找相关文档、屏幕截图和录音,用自然语言搜源代码,或者凭一段文字描述去检索视频内容。
Google 称,EmbeddingGemma 2 的关键特性是把文本、代码、图像、视频和音频放进同一个 768 维嵌入空间里表示。开发者据此可以搭出跨媒体类型检索的系统,不必为每种媒体各维护一套互不兼容的嵌入空间。
这些嵌入虽然来自不同模态,但落在同一维度空间中,因此能按语义相似度直接比较。
该模型允许开发者只加载应用所需的
EmbeddingGemma 2 支持套娃表示学习(Matryoshka Representation Learning,MRL),能把嵌入截断成更短的单位长度向量,存储需求随之下降。举个例子:以 bfloat16 精度存 100 万个 768 维向量大约要 1.5GB 内存,截到 128 维后只需 250MB,占用降到六分之一。代价是检索质量要打折扣。所以 Google 的建议是,只在存储空间或搜索速度确实吃紧时才用截断。128 维下,文本任务能保住约 90% 的质量,图像、视频和语音检索则掉到约 75%。
针对这次发布,Reddit 用户 Distinct-Target7503 认可模型的多模态能力,但对纯文本任务上的提升幅度提出疑问:
他说,这个模型让人印象深刻的地方,是能把图像和音频嵌进同一个共享语义空间;可只看文本任务,提升并不算大。
另一位 Reddit 用户 Open-Adhesiveness-86 则提醒开发者,用对模型很关键:
他提到,初代 EmbeddingGemma 有两点让他踩过坑,这些问题很可能依然存在:任务前缀不是可选项。索引文档时若用了查询前缀而非“title: none | text: ”,召回率会明显下降。另外,想为 MRL 截断向量,得先切片,再对较短的向量做 L2 归一化;若先在 768 维上归一化再截断,得到的向量范数就不正确。
EmbeddingGemma 于去年推出,主打“离线和隐私敏感场景,例如在本地搜索个人文件、使用 Gemma 3n 运行移动端 RAG 流水线,或者构建特定领域的聊天机器人”。EmbeddingGemma 2 已在 Hugging Face 上提供。
https://www.infoq.com/news/2026/10/embeddinggemma-2-multimodal/
声明:本文为 InfoQ 翻译,不代表平台观点,也不构成投资建议,未经许可禁止转载。