全部文档
当前文档

暂无内容

如果没有找到您期望的内容,请尝试其他搜索词

文档中心

调用模型在线服务

最近更新时间:2026-04-29 10:47:35

本文主要介绍如何调用运行中的模型在线服务。

前提条件

操作步骤

在线调试

  1. 登录星流平台,在顶部导航栏,选择训推与仿真 > 模型在线服务

  2. 在模型在线服务列表页面,点击待调用的服务名称/ID。

  3. 进入其详情页面,选择在线调用页签,下拉至在线调试区域。

  4. request body内输入以下内容,并点击调试,即可查看相应response(响应)内容。

    {
      "model": "DeepSeek-R1-Distill-Qwen-7B",
      "do_sample": false,
      "stream": false,
      "messages": [
        {
          "role": "system",
          "content": "You are a helpful assistent."
        },
        {
          "role": "user",
          "content": "你好"
        }]
    }

WebUI调用

  1. 进入当前在线服务详情页面,点击右上角的访问WebUI

  2. 根据页面提示创建管理员账号并登录。

  3. 进入相应对话页面,您可直接使用当前在线服务中所部署的模型。

公网调用

  1. 待在线调试成功后,在公网调用区域,查看并复制相应调用地址

  2. 获取到的公网调用地址,示例如下。

    https://kis-xxxxxxx-xxxxxx-4226-b276-41b9252e952f-webapi.web-proxy.ksyun.com?AicpToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiJ7XCJBY2NvdW50XCI6XCI3MzQwODY5MFwiLFwiVXNlcklkXCI6XCJmbWVsME9GZ1RJZXEyR1VrOWN0Q0R3XCJ9IiwiZXhwIjoxODcxOTU1MTgwLCJpYXQiOjE3NzczNDcxODB9.DDnvsbhOX-iXcTkvWC75wKRr6Fs19pK9tHSmP5SKVfo
  3. 若需成功调用该在线服务,需对目标URL,补充相应路径:/v1/chat/completions

    • 完整的URL格式应为:https://kis-xxxxxxx-xxxxx-4226-b276-41b9252e952f-webapi.web-proxy.ksyun.com/v1/chat/completions?AicpToken=xxxxxxxxxxxxxxxx

    • 故公网调用地址为:

      https://kis-xxxxxx-xxxxx-4226-b276-41b9252e952f-webapi.web-proxy.ksyun.com/v1/chat/completions?AicpToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiJ7XCJBY2NvdW50XCI6XCI3MzQwODY5MFwiLFwiVXNlcklkXCI6XCJmbWVsME9GZ1RJZXEyR1VrOWN0Q0R3XCJ9IiwiZXhwIjoxODcxOTU1MTgwLCJpYXQiOjE3NzczNDcxODB9.DDnvsbhOX-iXcTkvWC75wKRr6Fs19pK9tHSmP5SKVfo
  4. 根据上一步修改好的调用地址,调用本模型在线服务,请求和响应示例如下:

    • 请求示例

      curl -i -X POST \
         -H "Content-Type:application/json" \
         -d \
      '{
        "model": "DeepSeek-R1-Distill-Qwen-7B",
        "do_sample": false,
        "stream": false,
        "messages": [
          {
            "role": "system",
            "content": "You are a helpful assistent."
          },
          {
            "role": "user",
            "content": "你好,你是谁?"
          }]
      }' \
       'https://kis-xxxxxxx-xxxxxxx-4226-b276-41b9252e952f-webapi.web-proxy.ksyun.com/v1/chat/completions?AicpToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiJ7XCJBY2NvdW50XCI6XCI3MzQwODY5MFwiLFwiVXNlcklkXCI6XCJmbWVsME9GZ1RJZXEyR1VrOWN0Q0R3XCJ9IiwiZXhwIjoxODcxOTU1MTgwLCJpYXQiOjE3NzczNDcxODB9.DDnvsbhOX-iXcTkvWC75wKRr6Fs19pK9tHSmP5SKVfo'
    • 响应示例

文档导读
纯净模式常规模式

纯净模式

点击可全屏预览文档内容
文档反馈