最近更新时间:2026-11-13 17:22:23
本文介绍 KsMem 记忆库监控管理的基础性能指标、模型用量和存储用量的查询方式及数据说明。通过本文,您可以了解监控数据的分类、接口参数与字段含义,以及在耗时、错误率、Token 用量或存储占用异常时的排查思路。
监控管理用于了解 KsMem 记忆库的请求处理情况及资源使用情况。查看数据时,请区分以下三类信息。
类型 | 关注的问题 | 主要数据 |
|---|---|---|
性能指标 | 记忆创建、检索是否正常,请求处理是否变慢。 | 调用次数、平均耗时、错误率、最大时延和 P95 时延。 |
模型用量 | 记忆库使用模型时消耗了多少 Token。 | Embedding、Rerank、Chat 的分类 Token 用量及趋势。 |
存储用量 | 记忆库占用了多少存储空间,占用如何变化。 | 当前存储用量、今日存储增量和存储趋势。 |
通过查询记忆库监控指标接口,可以分别查看记忆创建和记忆检索的基础统计。
指标 | 单位 | 说明 |
|---|---|---|
调用次数 | 次 | 查询范围内对应记忆操作的请求数量,不是模型调用次数或 Token 数量。 |
平均耗时 | ms | 对应记忆操作的平均处理耗时。 |
错误率 | % | 对应记忆操作的错误率,查看时应核对页面采用的小数或百分比表示方式。 |
使用 查看记忆库模型用量监控信息 接口,按目标记忆库和时间范围查询。
参数 | 是否必须 | 说明 |
|---|---|---|
MemoryId | 是 | 目标记忆库 ID。 |
StartTime | 是 | 开始时间,Unix 秒级时间戳。 |
EndTime | 是 | 结束时间,Unix 秒级时间戳。 |
Granularity | 是 | 趋势聚合粒度,可选 |
数据 | 接口字段 | 说明 |
|---|---|---|
Embedding 输入 Token | EmbeddingInputTokens | Embedding 模型输入用量。 |
Rerank 输入 Token | RerankInputTokens | Rerank 模型输入用量。 |
Chat 输出 Token | ChatOutputTokens | Chat 模型输出用量。 |
Chat 缓存命中 Token | ChatHitCacheTokens | Chat 模型缓存命中的 Token 用量。 |
Chat 缓存未命中 Token | ChatMissCacheTokens | Chat 模型缓存未命中的 Token 用量。 |
接口同时提供各类 Token 的趋势、请求次数趋势及模型 RPM/TPM 限流配置。趋势中的每个数据点包含时间戳和对应数值。
使用 查看记忆库存储用量监控信息 接口。
数据 | 接口字段 | 单位 | 说明 |
|---|---|---|---|
当前存储用量 | CurrentStorage | GB | 当前记忆库存储占用。 |
今日存储增量 | TodayIncrement | GB | 今日的存储增量统计,不等于任意所选时间段的增量。 |
存储趋势 | StorageTrend | GB | 各时间点的存储用量。 |
现象 | 建议检查的内容 |
|---|---|
请求耗时升高 | 比较相同操作的平均耗时、已开放的 P95 和最大时延,并结合请求量和应用侧链路定位。 |
错误率升高 | 区分记忆创建与检索,核对业务请求的错误返回和相应时间段。 |
Token 用量增加 | 分别查看 Embedding、Rerank、Chat 的分类趋势,结合同期业务变化分析。 |
存储占用增加 | 查看存储趋势,并结合新增会话、记忆等数据变化分析。 |
未显示数据 | 先核对记忆库、时间范围及是否已产生相应数据。 |
纯净模式
