最近更新时间:2026-07-06 16:36:31
AI 应用监控针对智能体场景提供一套埋点监控方案,涵盖 分布式追踪(Tracing) 和 指标监控(Metrics) 两大核心模块。这些埋点信息将随 OpenTelemetry 社区的发展而不断更新和优化,本文为您具体介绍埋点相关的详细信息。
针对大模型的 Trace Span,添加额外 Gen AI attributes 以记录追踪大模型耗时、Token 消耗数等。主要包括以下字段:
字段 | 类型 | 说明 | |
| string | 链路追踪 ID | |
| string | Span ID | |
| string | Span 名称,如 | |
| int | Span 类型: | |
| int | 开始时间(纳秒时间戳) | |
| int | 结束时间(纳秒时间戳) | |
| int | 持续时间(纳秒) | |
| int | 标志位 | |
| string | OTEL spec 定义为 string
| |
| string | 错误分类 |
|
字段 | 类型 | 说明 | 示例 |
| string | 操作类型 |
|
| string | 提供商 |
|
字段 | 类型 | 说明 | 示例 |
| string | 请求的模型名 |
|
| string | 温度参数 |
|
| string | 输入消息(JSON) |
|
字段 | 类型 | 说明 | 示例 |
| string | 实际返回的模型名 |
|
| string | 响应 ID |
|
| string | 结束原因(JSON 数组) |
|
| string | 输出消息(JSON) |
|
字段 | 类型 | 说明 | 示例 |
| string | 输入 token 总数(含缓存) |
|
| string | 输出 token 数 |
|
| string | 总 token 数 |
|
| string | 从缓存读取的输入 token |
|
字段 | 类型 | 说明 |
| string | Tool 名称 |
| string | Tool 类型: |
| string | Tool 描述 |
| string | 调用参数(JSON) |
字段 | 类型 | 说明 |
| string | 会话id |
描述服务和 SDK 的元信息,所有 span 共享。
字段 | 类型 | 说明 | 示例 |
| string | 服务名称 |
|
| string | SDK 名称 |
|
| string | SDK 语言 |
|
| string | SDK 版本 |
|
描述 instrumentation 来源。
字段 | 类型 | 说明 | 示例 |
| string | instrumentor 名称 |
|
| string | instrumentor 版本 |
|
为更好统计大模型的性能和 Token 消耗数,针对大模型记录了相关 Metrics 指标,可以在 AI 应用监控界面上查看,也可以在自定义大盘构建大盘。大模型指标 Label 如下:
指标名:gen_ai_service_up ,维度列表如下:
维度名称 | 含义 | 示例 | 备注 |
ingestion_source | 接入来源 | langfuse | |
service_name | 服务名称 | agno-final-langfuse | 等价于其他指标中service.name维度 |
service_type | 服务类型 | ai agent | |
telemetry_sdk_language | sdk语言 | python | 等价于其他指标中telemetry.sdk.language维度 |
telemetry_sdk_name | sdk名称 | opentelemetry | 等价于其他指标中telemetry.sdk.name维度 |
telemetry_sdk_version | sdk版本 | 1.42.1 | 等价于其他指标中telemetry.sdk.version维度 |
user_id | 用户id | 73401193 |
指标名:gen_ai_session_up ,维度列表如下:
维度名称 | 含义 | 示例 | 备注 |
ingestion_source | 接入来源 | langfuse | |
service_name | 服务名称 | agno-final-langfuse | 等价于其他指标中service.name 维度 |
service_type | 服务类型 | ai agent | |
telemetry_sdk_language | sdk语言 | python | 等价于其他指标中telemetry.sdk.language维度 |
telemetry_sdk_name | sdk名称 | opentelemetry | 等价于其他指标中telemetry.sdk.name 维度 |
telemetry_sdk_version | sdk版本 | 1.42.1 | 等价于其他指标中telemetry.sdk.version维度 |
user_id | 用户id | 73401193 | |
session_id | 会话id | 6414c005-8fd5-4b78-98ae-d37915a6bfc7 |
指标名:gen_ai_client_token_usage_(count、sum、bucket) ,维度列表如下:
维度名称 | 含义 | 示例 | 备注 |
gen_ai.provider.name | LLM提供者 | openai | |
gen_ai.response.model | LLM名称 | glm-5 | |
service.name | 服务名称 | agno-final-langfuse | 等价于其他指标中service_name维度 |
gen_ai.token.type | token使用类型 | input | |
telemetry.sdk.language | sdk语言 | python | 等价于其他指标中telemetry_sdk_language维度 |
telemetry.sdk.name | sdk名称 | opentelemetry | 等价于其他指标中telemetry_sdk_name维度 |
telemetry.sdk.version | sdk版本 | 1.42.1 | 等价于其他指标中telemetry_sdk_version维度 |
server.address | llm地址 | 可选 | |
gen_ai.operation.name | 操作名称 | chat | 可选 |
stream | 是否流式 | false | 可选 |
指标名:gen_ai_client_operation_duration_(count、sum、bucket),维度列表如下:
维度名称 | 含义 | 示例 | 备注 |
gen_ai.provider.name | LLM提供者 | openai | |
gen_ai.response.model | LLM名称 | glm-5 | |
service.name | 服务名称 | agno-final-langfuse | 等价于其他指标中service_name维度 |
gen_ai.token.type | token使用类型 | input | |
telemetry.sdk.language | sdk语言 | python | 等价于其他指标中telemetry_sdk_language维度 |
telemetry.sdk.name | sdk名称 | opentelemetry | 等价于其他指标中telemetry_sdk_name维度 |
telemetry.sdk.version | sdk版本 | 1.42.1 | 等价于其他指标中telemetry_sdk_version维度 |
server.address | llm地址 | 可选 | |
gen_ai.operation.name | 操作名称 | chat | 可选 |
stream | 是否流式 | false | 可选 |
纯净模式
