运行时缓存预算、命名空间命中率与磁盘存储扫描
运行时缓存只统计 gateway / embedding / rerank 等请求缓存;HF Hub、模型目录和 data JSON 是磁盘存储扫描,不计入运行时内存预算。
内存预算按已启用 namespace 的 max_total_bytes 汇总;关闭的 namespace 只显示“已配置但未生效”。
查看 namespace 预算、命中率、TTL 和后端可用性。
KV cache、权重加载与部署预留内存,释放需停止或重启部署。
来自部署资源账本与 vLLM 日志。
查看 HF Hub、模型目录和应用 JSON 的扫描结果。
/admin/v1/models)把会删除缓存或残留文件的操作集中在这里。
磁盘清理仅删除疑似未完成残留(如 *.incomplete、HF download/*.metadata 等),不会删除已就绪权重。
数据来源 GET /admin/v1/cache/tiers · 清理 POST /admin/v1/cache/tiers/clear