全部文档
当前文档

共搜索到 0 条结果

暂无内容

如果没有找到您期望的内容,请尝试其他搜索词

文档中心

AI 应用监控概述

最近更新时间:2026-07-06 16:36:31

随着 AI 和大模型的爆火,AI 应用架构向分布式、异构化深度演进,模型推理链路由单一节点扩展至数据预处理、多模态融合等复杂链路,传统观测手段难以应对动态拓扑下的性能波动与故障定位,全链路观测成为追踪跨组件数据流转异常、实现推理性能瓶颈精准定位的核心刚需。应用性能监控已经适配主流智能体和推理框架,不仅支持 AI 大模型场景下的根因分析,而且支持采集 AI 场景下的黄金指标,实现了 AI 全场景覆盖和 LLM 支持,保障大模型应用的高可用性与成本优化。

核心功能

AI 应用监控支持对 AI 应用进行全链路的观测和监控。通过接入 AI 应用监控埋点,可以实现以下功能:

  • 指标(Metrics):采集服务 RED 指标和 Gen_AI 相关指标,例如:Token 消耗等监控应用性能表现。

  • 链路追踪(Tracing):记录 AI 应用执行过程中的关键路径和中间状态。

  • 可视化分析:通过控制台使用多维检索、拓扑生成、自定义看板等高级功能。


接入方式

应用性能监控已经针对 AI 应用的不同语言、不同部署方式进行适配,以确保用户能够快速,低成本的完成接入。接入说明和实践教程如下:

语言/服务/框架

接入说明

实践教程

Python

针对使用 Python 语言开发的 AI 应用,例如:使用 LangChain、OpenAI 等框架的 AI 应用,可使用应用性能监控自动埋点技术完成接入。

详细说明参见:接入中心 - Python 应用接入

-

文档导读
纯净模式常规模式

纯净模式

点击可全屏预览文档内容
文档反馈