全部文档
当前文档

暂无内容

如果没有找到您期望的内容,请尝试其他搜索词

文档中心

会话分析

最近更新时间:2026-07-06 16:36:31

AI 应用监控针支持对大模型(Large Language Model,LLM) 应用进行观测,为 LLM 应用接入后,可查看 LLM 应用在指定时间段内满足特定查询条件的会话列表、会话详情以及大模型链路相关 Trace 详情。本文为您详细介绍如何查看大模型会话分析,以及管理会话数据。

前提条件

已经将 LLM 相关应用接入 AI 应用监控,并正常上报观测数据。不同语言的接入方式各不相同,更多详细说明参见:接入方式


查看会话数据

步骤一:接入大模型会话分析

按照【前提条件】成功接入后,确保已经能够自动完成对 LLM 应用的埋点和监控,正常产生对应的大模型 Trace 和 Metrics 的前提下,按照【接入协议类型:OpenLLMetry】,在代码侧传入会话分析相关的 session_id。

以 Langchain 为例,调用 chain/agent 时,手动将 session_id 写入中,示例代码如下:

# 初始化 OpenLLMetry
from traceloop.sdk import Traceloop
from traceloop.sdk.instruments import Instruments

Traceloop.init(
    app_name=os.getenv("OTEL_SERVICE_NAME", "nanoagent"),
    api_endpoint="https://cn-beijing-6.otlp.ksyun.com:4318",
    headers={"ksc-appkey": "app-xxxxxxxxxxxxxxxxxxxxxxxxxx"},
    instruments={Instruments.LANGCHAIN},
)
# ── Run ───────────────────────────────────────────────────────────────
if __name__ == "__main__":
    # 设置session id
    set_conversation_id("session-100")

session_id 和 user_id 允许使用任意用于标识会话的字符串,相同 session_id 将被识别为同一个会话。


步骤二:查看大模型会话数据

  1. 登录 AI 可观测,并在顶部导航栏选择项目和地域。

  2. 在左侧导航栏选择 会话分析,前往 LLM 会话列表。

  3. 根据服务名称、会话 ID、用户 ID、耗时等条件进行会话筛选,查询出目标会话列表。会话列表支持查看会话相关基础信息,包括:会话 ID、耗时、Token 数、Input 数、Output 数、调用链数、用户 ID、开始时间等。

  1. 单击目标会话名称或右侧操作列中的 详情,可查看每条调用链的开始时间、Input、Ouput 详细信息,以及 Total tokens、调用链数,调用链 ID、用户 ID、模型名称等详细信息。

  1. 单击会话详情中的 调用链 ID,可前往单链路详情查看请求完整链路和 Trace 完整日志。

文档导读
纯净模式常规模式

纯净模式

点击可全屏预览文档内容
文档反馈