Skip to content

场景概览 - 异构卡纳管:资源计量与监控 ​

本场景介绍如何为租户分配 NPU 配额,并从设备、节点和作业维度检查资源使用。对于 4 张 NPU 卡,本场景负责回答“谁能用几张卡、当前哪张卡被谁占用、是否存在异常”。

适用角色 ​

  • 运营管理员
  • 模型提供方和最终用户(查看自身用量)

场景目标 ​

  • 租户具备符合业务需要的 NPU 配额。
  • 4 张 NPU 卡都能在设备监控中识别。
  • 能将异常卡、节点和作业关联起来排查。

场景流程 ​

主线: 配置租户配额 → 运行工作负载 → 关联设备节点与作业 → 核对计量并调整

阶段核心结果
1. 配置配额租户获得符合规划的 NPU 使用上限
2. 运行负载1/2/4 卡任务按规格申请并占用资源
3. 关联监控设备、节点和作业在同一时间范围内可对应
4. 核对调整配额、实际占用、利用率和计量明细一致并可优化

开始前准备 ​

  • NPU 已完成纳管,监控采集组件正常上报。
  • 已明确租户可用卡数和资源隔离策略。
  • 已有至少一个测试作业用于验证计量与监控。

推荐阅读顺序 ​

  1. 配置租户 NPU 配额
  2. 监控设备、节点与作业
  3. 核对月度计量与明细
  4. 部署模型并检查状态

文档索引 ​

文档说明
配置租户 NPU 配额为目标租户分配可使用的 NPU 数量
监控设备、节点与作业从卡、节点、作业三个维度核对状态和占用
核对月度计量与明细将租户额度、月度用量和计量明细对应到实际作业

完成检查 ​

用途: 以下检查是本场景的退出条件,用于判断是否已经取得可观察、可复核的结果,以及是否可以进入下一场景。它不是操作步骤的重复;任一项不满足时,请返回对应功能文档的“常见失败分支”排查。

检查项通过标准
1租户可用配额满足测试或生产要求。
2设备监控可见全部 4 张 NPU 卡。
3作业占用、节点水位和设备利用率能够相互对应。
4租户额度、月度用量和计量明细在同一账期可复核。