金山云-文档中心-Embedding服务

向量数据库 Milvus Embedding 服务，提供一站式文本向量化能力。开启该服务后，您无需自行部署 Embedding 模型，也不用在业务应用层手动完成文本向量化。Milvus 直接对接金山云星流平台的 Embedding 模型，实现文本自动向量化。完成星流平台权限授权，并在控制台配置星流 API Key 后，在数据写入与检索阶段，Milvus 会自动完成文本与向量的转换，大幅降低 AI 语义检索类应用的开发门槛。同时，您可直接在控制台查看 Embedding 模型用量统计，也支持随时开启或关闭 Embedding 服务。

工作原理

Embedding 服务基于 Milvus Function 机制实现，流程如下：

输入文本：用户将原始文本写入 Collection 的 VARCHAR 类型字段。
生成向量：Milvus 根据 Collection Schema 中配置的 Function，自动调用绑定的星流平台 Embedding 模型，将文本转换为向量。
存储向量：生成的向量存入 Collection 中明确定义的向量字段（通常为 FloatVector）。
查询文本：用户向 Milvus 提交文本查询。
语义搜索：Milvus 在内部将查询文本转换为向量，基于已有向量执行相似性搜索。
返回结果：Milvus 返回相似度Top K的结果。

前提条件

已创建Milvus实例，且实例状态为"运行中"。
已在金山云星流平台创建Embedding模型的API Key。
已在实例中创建目标Database和Collection，且Collection中包含向量字段。
如需使用外网访问Embedding服务，请确保已开启外网访问并配置安全组白名单。具体操作请参见外网访问和安全组。

限制

当前 Embedding 服务仅支持 Milvus 2.6 版本实例，若需使用语义检索则实例小版本需 ≥ 2.6.17，查看模型用量统计功能小版本需≥2.6.21。
向量字段的维度必须与所选 Embedding 模型输出的向量维度一致，否则写入会失败。

操作步骤

开通Embedding服务

登录金山云向量数据库Milvus控制台。
在实例列表页，点击目标实例名称，进入实例详情页。
在顶部导航栏中，单击 Embedding服务 页签。
若尚未开通服务，页面将提示“抱歉，您尚未开通Embedding服务”。阅读服务说明后，勾选“我已阅读并同意授权,该服务需要您想官方授权您星流平台模型的APIKey调用权限”，单击立即开通服务。
系统提示创建服务角色 MilvusEmbeddingServiceRole。向量数据库Milvus的Embedding服务默认使用此角色访问星流平台的相关资源，单击同意授权完成角色创建。
开通成功后，页面将展示模型列表和模型用量统计

配置Embedding模型API Key

Embedding服务通过金山云星流平台提供Embedding模型能力，使用前需绑定星流平台的API Key。

登录金山云星流平台，在模型管理中创建Embedding模型的API Key。
返回Milvus控制台Embedding服务页面，点击配置API Key按钮。
- 在弹出的“配置API Key”对话框中，填写相关参数：
  - 设置API Key标识：输入 Milvus 侧实例下 API Key 的自定义标识（如test）
  - 选择API Key：在下拉框中选择您在星流平台已创建并授权的 API Key。如需新建，可单击下方的“星流平台API Key”跳转至星流平台进行创建。
- 参数确认无误后，单击确定完成配置。

说明

API Key由用户在星流平台自行创建，Token费用由用户承担。
一个实例支持绑定一个API Key，绑定后该实例下所有Embedding相关操作均使用此Key。
如需更换API Key，可重新配置，新Key即时生效。
API Key标识只允许设置一次，暂不支持修改。

关闭Embedding服务

登录金山云向量数据库Milvus控制台。
在实例列表页，点击目标实例名称，进入实例详情页。
在顶部导航栏中，单击 Embedding服务 页签。
在Embedding服务 页签，点击关闭服务按钮。
在弹出的对话框中，单击确定。

说明

关闭Embedding服务后，Collection中配置的Function将不再生效，写入和检索时不会自动进行向量化。
关闭Embedding服务后，已存储的向量数据不受影响，仍可进行纯向量检索（直接输入向量进行检索）。
如Collection中仍保留Function配置且Embedding服务处于关闭状态，系统在检索时会进行API Key校验，可能导致检索失败。如需关闭Embedding服务但继续使用检索功能，请先移除Collection中的Function配置，改为直接输入向量进行检索。
关闭Embedding服务后，若想重新打开Embedding服务，重新配置Embedding模型API Key即可。

查看模型列表

登录金山云向量数据库Milvus控制台。
在实例列表页，点击目标实例名称，进入实例详情页。
在顶部导航栏中，单击 Embedding服务 页签，默认展示 模型列表 与 模型用量统计 两个子页签。

默认展示模型列表子页签，每个模型卡片中包含以下信息：

字段	说明
模型名称	Embedding 模型的名称，例如 `qwen3-embedding-8b`
模型说明	模型的简要介绍，包括参数规模、能力范围及适用场景
启用时间	该模型在当前实例完成启用配置的时间。若尚未启用，显示为 `--`
API Key 标识	用于调用该模型的 API Key 唯一标识。未配置 API Key 时显示为 `--`
API Key 名称	用于调用该模型的 API Key 名称。未配置 API Key 时显示为 `--`
API Key 状态	当前 API Key 的可用状态，例如：生效、已禁用
操作列	包含详情，修改API，Demo

点击操作列中的详情，可进入模型详情页，查看以下信息：

基本信息：

字段	说明
模型 ID	模型在星流平台的唯一标识
启用时间	该模型在当前实例完成启用配置的时间。若尚未启用，显示为 `--`
API Key 标识	当前调用该模型所使用的 API Key 唯一标识
API Key 名称	当前调用该模型所使用的 API Key 名称

模型限制：

限制项	说明
上下文长度	模型单次请求支持的最大上下文长度，具体单位以星流平台模型说明为准
RPM	Requests Per Minute，即每分钟最多可发起的请求数
TPM	Tokens Per Minute，即每分钟最多可处理的 Token 数

点击操作列中的 修改API，可重新配置API Key：
点击操作列中的Demo，查看该模型的调用示例代码。单击右下角的 复制代码 按钮，将示例代码粘贴到你的开发环境中进行修改和调试。
功能说明
示例代码基于 pymilvus 客户端，使用前请确保开发环境已安装对应依赖包。
运行示例代码时，需将连接地址、用户名、密码及 credential 标识替换为你实际实例的信息。

查看模型用量统计

登录金山云向量数据库Milvus控制台。
在实例列表页，点击目标实例名称，进入实例详情页。
在顶部导航栏中，单击 Embedding服务 页签，默认展示 模型列表 与 模型用量统计 两个子页签。
单击 模型用量统计 子页签
功能说明

时间范围筛选：页面顶部提供时间筛选器，支持按“近1个小时”、“今天”、“昨天”、“近7天”、“近30天”或“自定义”时间范围筛选数据。页面展示的所有概览数据与明细列表均基于所选时间范围统计。
用量概览卡片：顶部卡片展示当前时间范围内的核心消耗指标：
- 总Token消耗数（含检索和写入）：所选时间范围内，该实例调用 Embedding 模型产生的总 Token 消耗量（即检索 Token 与写入 Token 之和）。
- 检索Token消耗数：执行语义查询时，将查询文本转换为向量所消耗的 Token 数量。
- 写入Token消耗数：执行数据写入或更新时，将原始文本转换为向量所消耗的 Token 数量。
用量明细列表：按模型维度展示 Token 消耗的拆分明细。
- 模型筛选：列表上方支持按模型维度筛选。单击下拉框可单选或多选特定模型，查看指定模型的消耗情况。
- 列表排序：明细列表支持按“总Token消耗数”、“检索Token消耗数”、“写入Token消耗数”进行自定义排序。默认按总Token消耗数降序排列。列表支持分页查看。

注意事项

Embedding 服务依赖星流平台，使用前请确保星流平台账户余额充足，避免因 API Key 额度不足导致服务中断。
Embedding 模型 Token 用量按星流平台计费规则收取，具体计费标准参见星流平台文档。
建议在业务中统一使用同一 Embedding 模型，以保证向量空间的一致性。不同模型生成的向量不可混用。
关闭 Embedding 服务前，请确认业务是否依赖 Function 自动向量化功能，避免关闭后写入或检索异常。
若 API Key 失效或额度不足，Embedding 服务将无法正常工作，请及时在星流平台续费或更换 API Key。
Collection 创建后，Function 配置即写入 Schema。若需更换 Embedding 模型，通常需要重新创建 Collection。