全部文档
当前文档

暂无内容

如果没有找到您期望的内容,请尝试其他搜索词

文档中心

监控指标

最近更新时间:2026-11-13 17:22:23

本文介绍 KsMem 记忆库监控管理的基础性能指标、模型用量和存储用量的查询方式及数据说明。通过本文,您可以了解监控数据的分类、接口参数与字段含义,以及在耗时、错误率、Token 用量或存储占用异常时的排查思路。

功能简述

监控管理用于了解 KsMem 记忆库的请求处理情况及资源使用情况。查看数据时,请区分以下三类信息。

类型

关注的问题

主要数据

性能指标

记忆创建、检索是否正常,请求处理是否变慢。

调用次数、平均耗时、错误率、最大时延和 P95 时延。

模型用量

记忆库使用模型时消耗了多少 Token。

Embedding、Rerank、Chat 的分类 Token 用量及趋势。

存储用量

记忆库占用了多少存储空间,占用如何变化。

当前存储用量、今日存储增量和存储趋势。

基础性能指标

通过查询记忆库监控指标接口,可以分别查看记忆创建和记忆检索的基础统计。

指标

单位

说明

调用次数

次

查询范围内对应记忆操作的请求数量,不是模型调用次数或 Token 数量。

平均耗时

ms

对应记忆操作的平均处理耗时。

错误率

%

对应记忆操作的错误率,查看时应核对页面采用的小数或百分比表示方式。

查看Token监控接口

查询方式

使用 查看记忆库模型用量监控信息 接口,按目标记忆库和时间范围查询。

参数

是否必须

说明

MemoryId

是

目标记忆库 ID。

StartTime

是

开始时间,Unix 秒级时间戳。

EndTime

是

结束时间,Unix 秒级时间戳。

Granularity

是

趋势聚合粒度,可选 minute、hour、day。

数据说明

数据

接口字段

说明

Embedding 输入 Token

EmbeddingInputTokens

Embedding 模型输入用量。

Rerank 输入 Token

RerankInputTokens

Rerank 模型输入用量。

Chat 输出 Token

ChatOutputTokens

Chat 模型输出用量。

Chat 缓存命中 Token

ChatHitCacheTokens

Chat 模型缓存命中的 Token 用量。

Chat 缓存未命中 Token

ChatMissCacheTokens

Chat 模型缓存未命中的 Token 用量。

接口同时提供各类 Token 的趋势、请求次数趋势及模型 RPM/TPM 限流配置。趋势中的每个数据点包含时间戳和对应数值。

查看存储监控接口

查询方式

使用 查看记忆库存储用量监控信息 接口。

数据说明

数据

接口字段

单位

说明

当前存储用量

CurrentStorage

GB

当前记忆库存储占用。

今日存储增量

TodayIncrement

GB

今日的存储增量统计,不等于任意所选时间段的增量。

存储趋势

StorageTrend

GB

各时间点的存储用量。

数据查看建议

现象

建议检查的内容

请求耗时升高

比较相同操作的平均耗时、已开放的 P95 和最大时延,并结合请求量和应用侧链路定位。

错误率升高

区分记忆创建与检索,核对业务请求的错误返回和相应时间段。

Token 用量增加

分别查看 Embedding、Rerank、Chat 的分类趋势,结合同期业务变化分析。

存储占用增加

查看存储趋势,并结合新增会话、记忆等数据变化分析。

未显示数据

先核对记忆库、时间范围及是否已产生相应数据。

文档导读
纯净模式常规模式

纯净模式

点击可全屏预览文档内容
文档反馈