Embedding服务

向量数据库 Milvus 提供 Embedding 服务，通过对接金山云星流平台的 Embedding 模型，实现文本自动向量化能力。用户无需自行部署 Embedding 模型，只需配置星流平台 API Key，即可在写入和检索过程中自动完成文本与向量的转换，降低 AI 检索应用的开发门槛。

工作原理

Embedding 服务基于 Milvus Function 机制实现，流程如下：

1. 输入文本：用户将原始文本写入 Collection 的 VARCHAR 类型字段。

2. 生成向量：Milvus 根据 Collection Schema 中配置的 Function，自动调用绑定的星流平台 Embedding 模型，将文本转换为向量。

3. 存储向量：生成的向量存入 Collection 中明确定义的向量字段（通常为 FloatVector）。

4. 查询文本：用户向 Milvus 提交文本查询。

5. 语义搜索：Milvus 在内部将查询文本转换为向量，基于已有向量执行相似性搜索。

6. 返回结果：Milvus 返回相似度Top K的结果。

前提条件

1. 已创建Milvus实例，且实例状态为"运行中"。

2. 已在金山云星流平台创建Embedding模型的API Key。

3. 已在实例中创建目标Database和Collection，且Collection中包含向量字段。

4. 如需使用外网访问Embedding服务，请确保已开启外网访问并配置安全组白名单。具体操作请参见外网访问和安全组。

版本限制

• 当前 Embedding 服务仅支持 Milvus 2.6 版本实例，若需使用语义检索则实例小版本需 ≥ 2.6.17。

• 向量字段的维度必须与所选 Embedding 模型输出的向量维度一致，否则写入会失败。

操作步骤

进入Embedding服务页面

1. 登录金山云向量数据库Milvus控制台。

2. 在实例列表页，点击目标实例名称，进入实例详情页。

3. 在实例详情页上方导航栏，点击Embedding服务，进入Embedding服务页面。

配置Embedding模型API Key

Embedding服务通过金山云星流平台提供Embedding模型能力，使用前需绑定星流平台的API Key。

1. 登录金山云星流平台，在模型管理中创建Embedding模型的API Key。

2. 返回Milvus控制台Embedding服务页面，点击配置API Key按钮。

3. 在弹出的配置窗口中，选择星流平台生成的API Key名称，点击确定完成绑定。

   

说明

• API Key由用户在星流平台自行创建，Token费用由用户承担。

• 一个实例支持绑定一个API Key，绑定后该实例下所有Embedding相关操作均使用此Key。

• 如需更换API Key，可重新配置，新Key即时生效。

开启/关闭Embedding服务

Embedding服务支持在控制台手动开启或关闭。

1. 在Embedding服务页面，点击开启服务按钮，即可开启Embedding服务。

2. 开启后，Collection中配置了Function的向量字段将自动调用星流平台Embedding模型进行向量化。

3. 如需关闭Embedding服务，点击关闭服务按钮即可。

说明

• 关闭Embedding服务后，Collection中配置的Function将不再生效，写入和检索时不会自动进行向量化。

• 关闭Embedding服务后，已存储的向量数据不受影响，仍可进行纯向量检索（直接输入向量进行检索）。

• 如Collection中仍保留Function配置且Embedding服务处于关闭状态，系统在检索时会进行API Key校验，可能导致检索失败。如需关闭Embedding服务但继续使用检索功能，请先移除Collection中的Function配置，改为直接输入向量进行检索。

查看Embedding模型

1. 进入Embedding服务页面后，页面将展示通过星流平台接入的可用Embedding模型列表。

2. 每个模型卡片中包含以下信息：

   字段	说明
   模型名称	Embedding 模型的名称，例如 qwen3-embedding-8b
   模型说明	模型的简要介绍，包括参数规模、能力范围及适用场景
   启用时间	该模型在当前实例完成启用配置的时间。若尚未启用，显示为 --
   API Key 标识	用于调用该模型的 API Key 唯一标识。未配置 API Key 时显示为 --
   API Key 名称	用于调用该模型的 API Key 名称。未配置 API Key 时显示为 --
   API Key 状态	当前 API Key 的可用状态，例如：生效、已禁用

   点击操作列中的 详情，可进入模型详情页，查看以下信息：

   基本信息：

   字段	说明
   模型 ID	模型在星流平台的唯一标识
   启用时间	该模型在当前实例完成启用配置的时间。若尚未启用，显示为 --
   API Key 标识	当前调用该模型所使用的 API Key 唯一标识
   API Key 名称	当前调用该模型所使用的 API Key 名称

   模型限制：

   限制项	说明
   上下文长度	模型单次请求支持的最大上下文长度，具体单位以星流平台模型说明为准
   RPM	Requests Per Minute，即每分钟最多可发起的请求数
   TPM	Tokens Per Minute，即每分钟最多可处理的 Token 数

注意事项

• Embedding 服务依赖星流平台，使用前请确保星流平台账户余额充足，避免因 API Key 额度不足导致服务中断。

• Embedding 模型 Token 用量按星流平台计费规则收取，具体计费标准参见星流平台文档。

• 建议在业务中统一使用同一 Embedding 模型，以保证向量空间的一致性。不同模型生成的向量不可混用。

• 关闭 Embedding 服务前，请确认业务是否依赖 Function 自动向量化功能，避免关闭后写入或检索异常。

• 若 API Key 失效或额度不足，Embedding 服务将无法正常工作，请及时在星流平台续费或更换 API Key。

• Collection 创建后，Function 配置即写入 Schema。若需更换 Embedding 模型，通常需要重新创建 Collection。