全部文档
当前文档

暂无内容

如果没有找到您期望的内容,请尝试其他搜索词

文档中心

实例管理

最近更新时间:2024-03-22 10:18:13

创建实例

  1. 登录金山云Milvus控制台,在左侧导航栏点击LangChain,进入大模型服务页面,点击创建实例。

  2. 您可以参照下表完成对应的基础配置。

类别

配置项

配置说明

基础配置

计费方式

目前仅支持按量付费按量付费(按日月结)两种计费方式。

数据中心

目前仅支持华北1(北京)。

可用区

  • 公共调用模式支持的可用区:可用区A、可用区B、可用区C、可用区D、可用区E。

  • 私有部署模式支持的可用区:可用区E。

部署模式

  • 公共调用:支持调用第三方合作伙伴的大模型和配套Embedding,Langchain框架部署在您选择开通的云服务器上。

  • 私有部署:开源大模型、开源Embedding和Langchain框架均部署在您选择开通的GPU服务器上。

架构

目前仅支持单机架构。

  1. 您可以根据所选的部署模式,参照下列各表完成对应的模型配置。

    • 公共调用模式

类别

配置项

配置说明

模型配置

大模型

目前支持选择MiniMax、智谱大模型。

Group ID

如您选择MiniMax大模型,则需要输入您对应账号的Group ID,详细信息请见第三方官网文档。

API Key

输入您对应账号的API Key,详细信息请见第三方官网文档。

Milvus实例名称

选择已创建的Milvus实例。

LangChain部署时会格式化所连Milvus实例,为避免数据受损,建议您新建Milvus实例体验该服务,并为不同的大模型服务绑定不同的Milvus实例。

Milvus账号

输入对应Milvus实例的账号。

Milvus密码

输入对应Milvus实例的密码。

Milvus连通性检查

验证输入的Milvus账号、密码的准确性。

  • 私有部署模式

类别

配置项

配置说明

模型配置

大模型

目前仅支持选择Chatglm2-6b。

Milvus实例名称

选择已创建的Milvus实例。

Milvus账号

输入对应Milvus实例的账号。

Milvus密码

输入对应Milvus实例的密码。

Milvus连通性检查

验证输入的Milvus账号、密码的准确性。

  1. 您可以根据实际需求,选择对应的机型配置。

  • 公共调用支持的机型:标准型S6、性能保障型X6。

  • 私有部署支持的机型:GPU通用计算型GN7I。

  1. 点击下一步,进入网络配置页面,您可以参照下表完成网络配置。

类别

配置项

配置说明

网络配置

计费方式

选择对应的计费方式。

线路类型

目前仅支持BGP。

带宽值

默认选择1Mbps。

购买EIP数量

默认选择1个。

虚拟私有网络

默认选择Milvus实例对应的VPC。

关联子网

默认选择Milvus实例对应的子网。

关联安全组(防火墙)

选择Milvus实例对应VPC的网络安全组。

  1. 点击下一步,进入确认配置页面,您可以参照下表完成服务器配置。

类别

配置项

配置说明

确认配置

服务器名称

设置所选机型的实例名称。

登录方式

可选设置密码或创建后设置。

管理员账户

默认为ubuntu。

设置密码

设置登录密码。

确认密码

确认设置的登录密码。

  1. 点击立即购买,确认后支付订单,实例创建完成。

删除实例

  1. 登录金山云Milvus控制台,在左侧导航栏点击LangChain,进入大模型服务页面,选择目标实例点击删除。

  2. 请确认是否删除该实例,确认后将为您删除实例。

文档导读
纯净模式常规模式

纯净模式

点击可全屏预览文档内容
文档反馈