场景概览 - 发布聚合模型
本场景介绍如何把多个已发布模型组合成统一调用入口,并配置路由策略、计费方式和发布范围。
适用角色
- 模型提供方
场景目标
- 选择可参与聚合的基础模型。
- 配置成功率、成本、均衡、随机或轮询等路由策略。
- 提交聚合模型并进入审核或发布流程。
场景流程
主线: 选择成员模型 → 配置路由策略 → 配置计费并发布 → 验证路由与故障切换
| 阶段 | 核心结果 |
|---|---|
| 1. 选择成员 | 至少两个协议和模态兼容的模型参与聚合 |
| 2. 配置路由 | 成本、成功率、均衡、随机或轮询策略符合目标 |
| 3. 发布聚合 | 计费和发布范围完整,模型进入审核或模型列表 |
| 4. 验证运行 | 正常调用成功,单个成员不可用时其余成员可承接流量 |
开始前准备
- 至少两个状态可用、协议兼容的已发布模型。
- 已明确路由策略、计费方式和发布范围。
推荐阅读顺序
- 确认基础模型和协议
- 配置聚合策略
- 配置计费并提交
文档索引
| 文档 | 说明 |
|---|---|
| 添加聚合模型 | 完整配置步骤、参数说明和功能截图 |
完成检查
用途: 以下检查是本场景的退出条件,用于判断是否已经取得可观察、可复核的结果,以及是否可以进入下一场景。它不是操作步骤的重复;任一项不满足时,请返回对应功能文档的“常见失败分支”排查。
| 检查项 | 通过标准 |
|---|---|
| 1 | 聚合模型包含至少两个已启用且协议、模态兼容的成员模型。 |
| 2 | 路由策略、成员阈值、计费和发布范围配置完整,状态可在审核或模型列表定位。 |
| 3 | 受控调用成功;停用一个成员后,其余成员仍能按策略承接请求。 |