EmbeddingGemma 2：740M 多模态嵌入、567MB RAM、离线搜索与代码检索

Google 发布了 EmbeddingGemma 2，这是一款紧凑型多模态嵌入模型，旨在将语义搜索直接带到手机、笔记本电脑、浏览器及其他边缘设备上。

该模型于 2026 年 10 月 6 日公布。对于其能够完成的任务而言，它的主要规格异常紧凑：

总参数量：740M
统一嵌入空间：768 维
上下文窗口：8K
支持 100 多种语言
Pixel 11 Pro 上纯文本权重的活动 RAM：约 191MB
Pixel 11 Pro 上完整多模态模型的活动 RAM：约 567MB

EmbeddingGemma 2 可以将文本、代码、图像、视频、音频以及这些模态的混合内容编码到同一个共享向量空间中。

这意味着，自然语言查询可以检索照片、音频片段或视频中的某个时刻，而不必先将每个文件转换成文本。

Google CEO Sundar Pichai 将其描述为 Google 首款开放、原生多模态的嵌入模型。

实际区别很简单：过去依赖云端 API，或依赖独立图像、音频和文本模型的搜索，现在可以借助一个紧凑模型在本地运行。

文本、图像、音频和视频现在可以相互检索

嵌入模型通常不会直接被终端用户看到，但它们位于许多现代搜索和 RAG 系统的底层。

它们的工作是将内容转换为数值向量：

内容
→ 嵌入向量
→ 语义空间中的位置

含义相近的项目会被放置在更近的位置。随后，搜索系统会将用户的查询转换为另一个向量，并检索距离最近的匹配项。

第一代 EmbeddingGemma 主要聚焦于文本。EmbeddingGemma 2 则将这一理念扩展到统一的多模态空间。

Google 的模型卡片表示，新模型会将文本、图像、视频和音频映射到同一个 768 维嵌入空间中。

因此，猫的照片、单词「猫」以及猫叫声的音频录音，尽管原始格式完全不同，也可以在语义上相互关联。

这支持以下类型的搜索：

文本查询 → 匹配图像
文本查询 → 匹配音频
文本查询 → 匹配视频片段
音频查询 → 匹配视频
图像查询 → 相关图像或媒体

单个内容也可以包含多种模态。

Google 举了一个户外跑鞋产品页面的例子：页面包含文字描述、产品照片，以及展示鞋子在湿滑岩石上抓地力的视频。EmbeddingGemma 2 可以用一个嵌入表示这些组合内容，并将其与「适合越野跑的防水鞋」这类查询进行匹配。

浏览器演示无需服务器或 API 即可运行

模型发布后不久，Hugging Face 工程师 Victor M 展示了模型直接在浏览器中运行的效果。

据来源文章介绍，他输入了：

birds singing

结果网格随即重新排序。排名靠前的结果既包括鸟类照片，也包括展示鸟叫波形的音频片段。

据报道，该查询耗时约 22 毫秒。整个过程没有调用服务器端模型，也不需要外部 API。

这一数字来自开发者报告的浏览器测试，并不是 Google 官方的延迟保证。

不过，Google 自身的部署指南支持这一更广泛的结论：EmbeddingGemma 2 面向本地执行，可通过 LiteRT、MediaPipe、WebGPU、transformers.js、MLX、llama.cpp、Ollama 及其他适合边缘设备的运行时运行。

上下文窗口扩大至原来的四倍

EmbeddingGemma 2 使用 8,192 个 Token 的上下文窗口，是上一代 EmbeddingGemma 的四倍。

Google 表示，单模态输入大约可以包含：

5.5 分钟音频
29 张图像
58 个视频帧

也可以包含交错组合的多种模态。

该模型还支持 100 多种语言。

这为本地搜索系统提供了更大的灵活性。应用不必只索引较短的文本片段，也可以表示包含更长段落、图像、视频帧或音频片段的丰富内容。

基准测试差距在视觉和视频领域最明显

Google 将 EmbeddingGemma 2 与多个规模相近的嵌入系统进行了比较。

来源文章强调，差异在视觉检索方面最为明显。

Google 的模型卡片报告了以下结果：

来源文章重点介绍了与 Jina v5 Omni-Nano 的对比：

MMEB v2 Image
EmbeddingGemma 2：57.3
Jina v5 Omni-Nano：31.6

MMEB v2 Video
EmbeddingGemma 2：50.7
Jina v5 Omni-Nano：31.2

这些数据来自 Google 发布的评估表。

一如既往，基准测试结果应放在特定评估设置中理解，而不应被视为适用于所有生产搜索工作负载的普遍排名。

740M 参数模型与模块化编码器

740M 的总参数量由多个模块组成。

Google 的模型卡片列出了以下配置：

文本：
总计 270M 参数
  130M 主干网络
  140M 嵌入器

视觉编码器：
170M 参数

音频编码器：
300M 参数

开发者不必加载全部三个组件。

这种模块化对于边缘设备非常重要。如果应用只搜索文本和代码，就没有必要让音频或视觉编码器继续占用内存。

完整多模态搜索约需 567MB RAM

Google 报告称，在 Pixel 11 Pro 上经过量化后，该模型大约可以使用：

仅文本活动 RAM：
约 191MB

完整多模态活动 RAM：
约 567MB

这也是来源文章使用「低于 600MB」作为标题依据的原因。

该模型采用量化感知训练，并支持 INT4 和 INT8 部署选项。

这一点很重要，因为多模态搜索流程过去通常需要多个独立组件：

图像编码器
+
语音识别或音频编码器
+
文本嵌入模型
+
额外的预处理

EmbeddingGemma 2 将其中的大部分能力整合进了一个统一架构。

Matryoshka 嵌入可以缩小搜索索引

原生输出维度为 768。

EmbeddingGemma 2 还支持 Matryoshka 表征学习，可以将向量截断为：

512 维
256 维
128 维

Google 表示，相比完整的 768 维表示，这可以将本地向量数据库的存储需求最多降低 6 倍。

Google AI Edge 的部署博客称，根据表示方式和存储流程的配置不同，某些本地索引及存储配置的存储量最多可以减少 8 倍。

模型卡片还补充了一个重要的实现细节：截断后的向量应在余弦相似度搜索前重新归一化。

如果查询向量和文档向量使用不同维度，也无法直接进行比较。

Google 已经构建了设备端搜索演示

Google 围绕该模型发布了多个参考应用。

即时媒体搜索

Google AI Edge Gallery 的 Instant Media Search 允许用户使用自然语言或示例图像搜索本地照片和视频。

该应用会：

1. 在本地生成嵌入。
2. 将媒体嵌入存储在本地 SQLite 数据库中。
3. 将查询转换为嵌入。
4. 使用余弦相似度重新排序匹配媒体。

嵌入计算不需要互联网连接。

视频时刻查找器

Video Moments Finder 允许用户搜索本地视频文件中的特定时刻。

Google 给出的查询示例包括：

kids laughing
dog catching a frisbee
person blowing out birthday candles

该应用会索引视觉和音频片段，并返回匹配的时间戳。

Google AI Edge Foresight

Google 还为 Mac 推出了 AI Edge Foresight。

Foresight 将 EmbeddingGemma 2 与 Gemma 4 结合，用于本地检索和上下文推理。

Google 表示，它可以索引会议文字记录、搜索私有文件、检索图像/文档/笔记、离线运行，并将敏感的源材料保留在设备上。

这与原文描述的本地 RAG 架构接近：

EmbeddingGemma 2
→ 检索相关的本地上下文

Gemma 4
→ 基于检索到的上下文进行推理

第三方测试说明了本地搜索为何值得关注

来源文章还整理了多个早期开发者实验。

这些实验是有价值的案例，但应被视为社区报告的结果，而非 Google 官方基准测试。

Nativ 在 Apple M5 Max 上的测试

Mac 应用 Nativ 报告了使用 8 位量化模型在 Apple M5 Max 上进行的测试。

其公布的数据包括：

与 FP32 的余弦相似度：
0.9997

批量大小为 32 时的文本嵌入吞吐量：
每秒 817 项

这些数据取决于具体实现、量化方式、硬件和批量大小。

跨语言个人笔记搜索

来源文章提到的一位土耳其开发者在个人笔记上构建了一个小型测试。

这些笔记大多使用英语书写，而查询使用土耳其语。

在其报告的测试中：

关键词匹配命中率：
15%

EmbeddingGemma 2 命中率：
97%

该测试检查正确笔记是否出现在前 18 个候选结果中。

他还测试了包含大量拼写错误的真实消息，并报告称，与关键词搜索相比，语义模型找到的相关笔记数量大约是前者的两倍。据报告，每次查询在本地耗时约 50 毫秒。

这不是标准化基准测试，但它说明了嵌入搜索有用的主要原因之一：即使查询与存储文本使用不同的词语或语言，语义相似度仍然可以发挥作用。

在小型 Nano 开发板上运行

开发者 Nick Lo 还展示了一个通过 llama.cpp 运行在 Nano 开发板上的量化版 EmbeddingGemma 2。

据他报告，在一个小型本地图像搜索系统中，将文本查询转换为嵌入大约需要：

约 15 毫秒

找到匹配图像后，ESP32-S3 会逐行绘制图像。

同样，这属于开发者实验，而不是官方参考延迟。

编程 Agent 可以在本地搜索代码仓库

该模型并不只适用于媒体。

与上一代 EmbeddingGemma 相比，它的代码检索能力有了显著提升。

Google 报告称：

MTEB Code v1

EmbeddingGemma：
68.76

EmbeddingGemma 2：
78.68

这意味着提升了 9.92 分。

Google Gemma 特别强调，本地代码库索引、语义代码搜索和编程 Agent 检索都是目标使用场景。

编程工具需要先找到代码仓库中相关的部分，之后才能进行编辑。

紧凑型本地嵌入模型为开发者提供了另一种架构：

源代码仓库
→ 在本地构建嵌入
→ 在本地存储索引
→ 自然语言查询
→ 检索相关代码
→ 仅将选定上下文发送给更大的编程模型

索引和第一阶段检索可以保留在开发者自己的机器上。

EmbeddingGemma 2 将 AI 搜索从云端带到设备

Google 此前已在 2026 年较早时候推出 Gemini Embedding 2 云端 API。

EmbeddingGemma 2 采用了不同路径。

它不是要求使用托管 API 来生成多模态嵌入，而是一个可以在本地运行的开放权重模型。

对于个人媒体、私有文件、企业笔记和本地代码仓库而言，第二种方案可能更具吸引力，因为原始资料不一定需要离开设备。

Google 明确将其定位为隐私优先的设计。

但这并不意味着所有应用会自动变得私密。应用的其他部分仍然需要正确设计，包括安全的本地存储、访问控制以及对检索内容的谨慎处理。

常见问题

什么是 EmbeddingGemma 2？

EmbeddingGemma 2 是 Google 基于 Gemma 4 技术构建的开放权重多模态嵌入模型。它会将文本、代码、图像、视频、音频和混合输入映射到共享的 768 维向量空间，用于搜索、RAG、相似度计算、分类和聚类。

EmbeddingGemma 2 有多大？

完整模型包含 740M 个参数。文本组件使用 270M 个参数，此外可选的视觉和音频编码器分别增加 170M 和 300M 个参数。

EmbeddingGemma 2 可以完全离线运行吗？

可以。Google 按照设备端使用场景设计该模型，并为手机、笔记本电脑、浏览器和边缘硬件提供部署路径。Google 自己的 AI Edge 演示可以在不调用云端嵌入服务的情况下执行本地搜索。

EmbeddingGemma 2 需要多少内存？

Google 报告称，在 Pixel 11 Pro 上，量化后的纯文本权重需要约 191MB 活动 RAM，完整多模态模型需要约 567MB。实际内存使用量会根据运行时、硬件、精度和启用的编码器而变化。

EmbeddingGemma 2 支持图像、视频和音频搜索吗？

支持。所有支持的模态都会被映射到同一个向量空间，因此文本可以检索图像、音频或视频片段，媒体也可以与其他媒体进行比较。

EmbeddingGemma 2 是开源的吗？

Google 根据商业使用较为宽松的 Apache 2.0 许可证发布模型权重，并将其描述为开放模型。不过，用户仍须遵守 Gemma 禁止使用政策及适用条款。

EmbeddingGemma 2 可以用于本地代码搜索吗？

可以。Google 报告称，该模型的 MTEB Code 得分为 78.68，高于上一代 EmbeddingGemma 的 68.76，并明确将本地代码库索引和编程 Agent 检索列为目标使用场景。

EmbeddingGemma 2 与 Gemma 4 有什么区别？

EmbeddingGemma 2 是嵌入模型：它将内容转换为向量，用于检索和相似度计算。Gemma 4 是生成式模型，可以基于检索到的信息进行推理，因此 Google 展示了将两者结合用于完全本地化 RAG 工作流的方案。

相关工具

• Hugging Face 上的 EmbeddingGemma 2：Google 官方模型权重、模型卡片和库集成。
• Google AI Edge Gallery：Google 的开源展示应用，包含本地媒体搜索等设备端 AI 演示。
• Sentence Transformers：用于生成 EmbeddingGemma 2 嵌入并构建检索流程的支持框架。
• MediaPipe：Google AI Edge 工具，用于跨平台嵌入、检索和设备端决策任务。
• LiteRT：Google 的边缘推理运行时，用于优化 CPU、GPU 和 NPU 部署。
• llama.cpp：Google 列出的 EmbeddingGemma 2 支持部署工具之一，可用于本地推理。

相关链接

• BAAI Hub 原文：本文改编并进行事实核查所依据的中文《新智》文章。
• Google — EmbeddingGemma 2 发布：介绍模型规模、模态、内存、基准测试和部署方式的官方公告。
• EmbeddingGemma 2 模型卡片：官方架构、基准测试、上下文、模态和最佳实践文档。
• Google AI Edge 开发者博客：介绍 Instant Media Search、Video Moments Finder、Foresight、MediaPipe 和 LiteRT 部署的官方指南。
• EmbeddingGemma 2 开发者指南：Google 面向开发者介绍本地语义搜索和 RAG。
• 文本嵌入指南：官方 Sentence Transformers 设置和文本嵌入说明。
• 多模态嵌入指南：官方图像、音频和视频嵌入示例。
• Hugging Face 上的 EmbeddingGemma 2：官方 Apache 2.0 模型分发和使用文档。

总结

EmbeddingGemma 2 将多模态语义搜索从云端带到了普通消费级硬件可以触及的范围。一个 740M 参数的模型，就可以将文本、代码、图像、视频和音频嵌入同一个向量空间；在 Google 对 Pixel 11 Pro 的完整多模态配置中，活动 RAM 约为 567MB。

它最突出的实际优势在于架构简洁：一个紧凑型模型即可支持本地媒体搜索、视频时刻检索、私有 RAG、跨语言笔记搜索和代码仓库索引，而不要求将所有原始文件上传到服务器。

Google 的官方演示、模型卡片和部署工具链支持其设备端运行定位。来源文章中的浏览器、Nativ、土耳其语笔记和 Nano 开发板数据，是有参考价值的早期开发者实验，但应被理解为与具体实现相关的结果，而非保证性能。

EmbeddingGemma 2 让本地多模态检索变得足够现实：照片、录音、视频、文档和代码，越来越可以在它们原本所在的地方——用户自己的设备上——被搜索。