Skip to content

模型实例 ​

功能概述 ​

项目内容
适用角色模型提供方
导航路径AI基础设施 > On-Prem > 模型部署 > 模型实例
页面路由/powerone/quickstart/model-service
管理对象通过部署模板创建的模型服务实例

新手理解 ​

模型实例像已经点单并启动的模型服务。部署模板负责创建,模型实例页面负责查看它有没有创建成功、是否还在运行、是否需要进一步排查。

术语表 ​

术语说明
实例由平台创建并调度到集群运行的对象,例如模型服务、在线 IDE 或运行实例。
规格作业可申请的资源套餐,例如 CPU、内存、GPU 型号和卡数。
单实例独立运行的一个模型服务实例,适用于测试或低流量场景。

推荐操作顺序 ​

  1. 先在 模型部署 > 模板 创建模型实例。
  2. 进入 AI Infra > On-Prem > 模型部署 > 模型实例。
  3. 按实例类型或状态筛选列表。
  4. 使用搜索条件定位目标实例。
  5. 查看实例状态,必要时进入详情或日志页面。

小白先看 ​

先确认当前任务是否涉及通过部署模板创建的模型服务实例,再按照推荐顺序操作。页面字段或状态与预期不符时,先回到前置对象页核对依赖,不要跳过结果校验直接进入下游流程。

前提条件 ​

  1. 已至少创建过一个模型实例,或准备查看当前空列表状态。
  2. 当前账号具备查看模型实例的权限。
  3. 如需排障,需能进入实例详情、日志或监控页面。

页面说明 ​

页面用于查看和处理通过部署模板创建的模型服务实例。

模型实例

页面提供实例类型、状态、搜索和重置入口。当前环境截图中列表为空,表示该租户在当前条件下暂无模型服务实例。

页面区域 ​

字段/区域说明
实例类型筛选按全部(All)、单实例(Single Instance)、多实例(Multi-instance)、集群(Cluster)等类型缩小范围。
状态筛选按全部状态或具体运行状态查看实例。
搜索区输入条件后点击 "搜索(Search)" 定位目标实例。
列表区展示模型实例及其状态;无数据时显示 No model services。
分页区实例较多时按页查看。

主要操作 ​

筛选与查看模型实例 ​

  1. 进入 AI基础设施 > On-Prem > 模型部署 > 模型实例。
  2. 按页面提供的 实例类型、状态 或关键字搜索目标实例,点击 "搜索"。
  3. 在列表中查看实例名称、类型、运行状态、模型、规格、地域和创建时间。
  4. 点击目标实例的 "详情",核对模型版本、资源规格、实例状态、Endpoint 和关联事件。

排查与处理异常状态 ​

  1. 在实例详情中查看资源利用率、调用状态、事件和最近错误日志。
  2. 保持相同时间范围,对照集群、节点和设备监控定位异常层级(如资源不足或显存溢出)。
  3. 如需启动、停止、重启、扩缩容或删除实例,先确认对线上业务的影响并获得授权后再执行。

参数速查表 ​

字段名称说明
实例名称模型服务实例名称。
实例类型实例形态,例如单实例、多实例或集群实例。
状态实例当前运行或生命周期状态。
模型实例关联的模型。
规格实例使用的资源规格。
地域实例所在地域或资源池。
创建时间实例创建时间。
搜索条件用于缩小实例列表范围的筛选条件或关键字。
操作行内可用操作,例如查看详情或实例生命周期操作。

踩坑提示 ​

  • 实例列表可能存在刷新延迟,刚创建的实例不会立即出现。

  • 空列表不一定代表没有实例,先检查筛选条件、租户、地域和权限。

  • 停止、重启、删除 属于高风险动作。

  • 不写真实实例 ID、实例名称、租户信息、地域、节点、Endpoint、日志、错误详情或测试参数。

结果校验 ​

检查项成功表现异常时处理
页面入口可进入模型实例并看到目标操作入口检查运营管理员权限和对应菜单是否已开放
对象记录通过部署模板创建的模型服务实例在列表或详情中可见重置筛选并核对名称、所属范围和创建结果
状态结果新增或变更后的状态符合页面提示查看操作提示、依赖对象状态和最近更新时间
下游使用后续页面能够选择或关联目标对象回到前置配置核对启用状态、归属关系和可见范围

常见问题 ​

模型实例中找不到目标对象 ​

问题现象:

页面可进入,但没有看到预期的通过部署模板创建的模型服务实例。

可能原因:

  • 筛选条件仍生效。
  • 对象属于其他范围。
  • 前置配置未完成。

处理方式:

  1. 重置筛选
  2. 核对所属地域或租户
  3. 返回前置页面确认对象状态。

模型实例的操作入口不可用 ​

问题现象:

新增、注册或维护入口不可见或不可点击。

可能原因:

  • 当前角色权限不足。
  • 页面处于只读状态。
  • 依赖对象不满足条件。

处理方式:

  1. 检查运营管理员权限
  2. 核对页面提示
  3. 先完成依赖对象配置。

模型实例的必填项没有可选值 ​

问题现象:

表单能打开,但下拉框为空。

可能原因:

  • 候选对象未启用。
  • 所属范围不一致。
  • 当前账号不可见。

处理方式:

  1. 到候选对象页面核对状态
  2. 确认归属关系
  3. 检查可见范围后刷新表单。

模型实例操作后状态异常 ​

问题现象:

提交后记录存在,但状态不是预期值。

可能原因:

  • 连通性或校验失败。
  • 关联对象异常。
  • 后台处理尚未完成。

处理方式:

  1. 查看页面提示和更新时间
  2. 检查关联对象
  3. 按状态阶段排查处理任务。

下游页面无法使用模型实例 ​

问题现象:

当前页状态正常,但下游页面无法选择或关联通过部署模板创建的模型服务实例。

可能原因:

  • 可见范围不匹配。
  • 对象未启用。
  • 下游缓存未刷新。

处理方式:

  1. 核对启用状态和归属
  2. 检查角色可见范围
  3. 刷新下游页面并重新选择。

注意事项 ​

  • 排障时不要在截图中暴露内部访问凭据或接口密钥。
  • 对外提供服务前,确认访问控制、实例规格和运行周期。
  • 停止、重启、删除 可能中断服务、释放资源或移除实例记录,执行前必须确认业务影响。
  • 实例状态以列表页和详情页为准,概览页只提供入口和汇总。

后续操作 ​

  1. 查看实例详情和日志。
  2. 确认服务访问地址和调用方式。
  3. 在 资源用量 中跟踪运行成本。