Skip to content

场景概览 - 多平台调度:模型资产上架 ​

指导运营管理员在完成云资源接入后,准备运行时资产(推理镜像、推理框架)并组装为可部署的模型资产,为后续的部署与调用提供业务侧资产。

适用角色 ​

  • 运营管理员

场景目标 ​

  • 推理镜像能够在目标云环境中拉取。
  • 推理框架包含正确的端口和启动命令。
  • 模型资产能够被普通用户用于快速部署。

场景流程 ​

主线: 登记推理镜像 → 组合推理框架 → 建立模型资产 → 验证用户可部署

阶段核心结果
1. 登记镜像目标云环境能够拉取受控版本的运行镜像
2. 组合框架镜像、启动命令、端口和框架类型相互兼容
3. 建立模型资产元模型、部署点、云上模型、算力方案和输出协议完整关联
4. 验证可部署平台用户能在快速部署中看到模型和可用方案

开始前准备 ​

  • 已完成云资源接入和授权。
  • 已准备镜像地址、框架类型、模型信息和输出 API 规则。

推荐阅读顺序 ​

  1. 维护推理镜像
  2. 维护推理框架
  3. 在模型库组装可部署模型资产

文档索引 ​

文档说明
推理镜像录入仓库地址、Tag、框架类型和内置状态
推理框架绑定镜像、端口和启动命令
模型库组合元模型、部署点、算力方案和输出配置

相关场景 ​

完成检查 ​

用途: 以下检查是本场景的退出条件,用于判断是否已经取得可观察、可复核的结果,以及是否可以进入下一场景。它不是操作步骤的重复;任一项不满足时,请返回对应功能文档的“常见失败分支”排查。

检查项通过标准
1运行镜像可从目标云环境拉取,框架类型和版本正确。
2推理框架的启动命令、端口和输出协议与模型匹配。
3模型库条目已关联元模型、云侧部署点、算力方案和输出配置。
4普通用户在快速部署中能看到该模型及可用方案。

常见失败分支 ​

现象优先检查
模型库无法选择镜像或框架资产状态、框架类型、地域和关联关系
用户部署页看不到模型模型发布状态、部署范围、授权和租户可见性
部署后接口不可用启动命令、端口、输出配置和健康状态