最近更新时间:2026-07-06 16:36:31
AI 应用监控针支持对大模型(Large Language Model,LLM) 应用进行观测,为 LLM 应用接入后,可查看 LLM 应用在指定时间段内满足特定查询条件的会话列表、会话详情以及大模型链路相关 Trace 详情。本文为您详细介绍如何查看大模型会话分析,以及管理会话数据。
已经将 LLM 相关应用接入 AI 应用监控,并正常上报观测数据。不同语言的接入方式各不相同,更多详细说明参见:接入方式。
按照【前提条件】成功接入后,确保已经能够自动完成对 LLM 应用的埋点和监控,正常产生对应的大模型 Trace 和 Metrics 的前提下,按照【接入协议类型:OpenLLMetry】,在代码侧传入会话分析相关的 session_id。
以 Langchain 为例,调用 chain/agent 时,手动将 session_id 写入中,示例代码如下:
# 初始化 OpenLLMetry from traceloop.sdk import Traceloop from traceloop.sdk.instruments import Instruments Traceloop.init( app_name=os.getenv("OTEL_SERVICE_NAME", "nanoagent"), api_endpoint="https://cn-beijing-6.otlp.ksyun.com:4318", headers={"ksc-appkey": "app-xxxxxxxxxxxxxxxxxxxxxxxxxx"}, instruments={Instruments.LANGCHAIN}, ) # ── Run ─────────────────────────────────────────────────────────────── if __name__ == "__main__": # 设置session id set_conversation_id("session-100")
session_id 和 user_id 允许使用任意用于标识会话的字符串,相同 session_id 将被识别为同一个会话。
登录 AI 可观测,并在顶部导航栏选择项目和地域。
在左侧导航栏选择 会话分析,前往 LLM 会话列表。
根据服务名称、会话 ID、用户 ID、耗时等条件进行会话筛选,查询出目标会话列表。会话列表支持查看会话相关基础信息,包括:会话 ID、耗时、Token 数、Input 数、Output 数、调用链数、用户 ID、开始时间等。
单击目标会话名称或右侧操作列中的 详情,可查看每条调用链的开始时间、Input、Ouput 详细信息,以及 Total tokens、调用链数,调用链 ID、用户 ID、模型名称等详细信息。
单击会话详情中的 调用链 ID,可前往单链路详情查看请求完整链路和 Trace 完整日志。
纯净模式
