部署综述
前言
| 项目 | 内容 |
|---|---|
| 适用角色 | 售前方案工程师、交付负责人、实施工程师、客户架构师 |
| 导航路径 | 部署 > 部署综述 |
| 功能定位 | 帮助用户在安装前选择部署模式、申请资源,并规划网络、中间件和算力节点纳管 |
本文回答的是“应该怎么部署”,不是“现在执行哪条命令”。第一次阅读时,建议先按下面的阅读路径完成部署决策,再进入具体安装文档。
新手理解
这篇文档建议在动安装器之前先读。它帮你先定部署形态:PoC 还是生产、单节点还是多节点、中间件用云托管还是自建、哪些端口必须放通。
阅读路径
| 阶段 | 你要决定什么 | 输出 |
|---|---|---|
| 第 1 步:确认部署目标 | PoC、公有云生产、私有云 / IDC | 已选定部署模式 |
| 第 2 步:确认中间件方案 | 使用云厂商托管中间件,或由安装器自建中间件 | 已选定 managed-middleware、hybrid 或 self-managed |
| 第 3 步:确认资源规格 | 需要的机器数量、CPU、内存、磁盘 | 资源申请清单已准备 |
| 第 4 步:确认网络和端口 | 用户、业务节点、中间件、算力集群之间如何通信 | 安全组 / 防火墙白名单已准备 |
| 第 5 步:进入执行文档 | 根据决策选择单节点、多节点或算力节点安装文档 | 可进入预检和安装 |
术语速查
| 术语 | 说明 |
|---|---|
| PoC | 概念验证或演示环境,重点是快速验证功能,不追求高可用 |
| 生产部署 | 面向正式业务使用的部署,需要考虑高可用、备份、监控、权限和运维 |
| 管理面 | AGIOne 控制面和业务服务运行区域,用户主要访问这一部分 |
| 算力节点纳管 | 将 GPU / NPU 节点接入平台,用于训练、推理、IDE 等负载 |
| 公有云托管中间件 | 云厂商提供的数据库、Redis、Nacos、Kafka、对象存储等服务;正式交付只能使用本文兼容矩阵中已验证的产品与版本 |
| 兼容性基线 | 已完成安装、初始化、运行和清理回归的“云厂商 + 产品 + 版本 + 接入方式”组合 |
| 私有云 / IDC | 客户自有数据中心或私有云环境,通常需要更多自建中间件 |
| VPC | 云上私有网络,业务节点和中间件通常应位于同一 VPC |
| ELB / ALB | 负载均衡入口,用于把用户请求分发到多个应用 / 入口节点 |
1. 概述
AGIOne 平台部署在逻辑上分为两个相对独立的部分:
- 平台管理:承载 AGIOne 控制面、业务服务、数据库与中间件,是用户与平台的入口。
- 算力节点纳管:负责将 GPU / NPU 等加速卡节点纳入统一调度,承载训练、推理、IDE 等算力负载。
两个部分通过内部网络互通,平台管理侧通过 Kubernetes API 与监控接口对算力集群进行管理与可观测性采集。
2. 整体架构
下图展示了 AGIOne 平台的整体逻辑架构,包括用户访问入口、平台管理层与算力节点纳管层之间的关系。
架构要点:
- 接入层可通过经项目验收的负载均衡服务对外暴露平台管理服务,生产环境推荐配置域名 + HTTPS(443)。
- 平台管理层至少由 2 个业务节点 + 2 个数据库中间件节点组成,业务节点可水平扩展。
- 算力集群以"地域算力池"为单位独立部署,每个地域近端部署镜像服务以提升镜像拉取速度。
- 平台管理层通过 Kubernetes API(6443)与扩展端口(32761–32765)调度并访问算力集群。
3. 部署模式选择
| 部署模式 | 适用场景 | 节点数 | 高可用 | 推荐环境 |
|---|---|---|---|---|
| PoC 部署(All in One) | 概念验证、功能演示、内部测试 | 1 | 否 | 单台虚拟机 |
| 生产部署 — 公有云 | 正式生产、对外提供服务 | 多节点 | 是 | 公有云(推荐) |
| 生产部署 — 私有云 / IDC | 数据合规、内网隔离 | ≥4 | 是 | 用户自有私有云或 IDC |
选型建议:若无强制的数据合规或内网隔离要求,优先选择公有云部署,可获得更稳定的中间件托管能力与运维便利性。
当前安装器只支持阿里云和华为云中已经完成实测的托管中间件组合。这里的“已支持”必须同时满足 5.1.2 数据库与中间件 中列出的产品、版本和接入约束,不能扩大理解为该云厂商的所有同类产品均受支持。
| 云厂商 | 支持状态 | 已覆盖托管中间件 | 适用安装模式 | 说明 |
|---|---|---|---|---|
| 阿里云 | 有条件支持 | ApsaraDB RDS for MariaDB、Tair / ApsaraDB for Redis、MSE Nacos、ApsaraMQ for Kafka、OSS | managed-middleware / hybrid | 仅支持 5.1.2 中的实测版本和接入方式。交付前必须确认 RAM 权限、服务关联角色、VPC 连通和白名单策略。 |
| 华为云 | 有条件支持 | RDS for MariaDB、DCS for Redis、CSE Nacos、DMS for Kafka、OBS | managed-middleware / hybrid | 仅支持 5.1.2 中的实测版本和接入方式。应用 / 入口节点必须通过私网访问托管中间件端点。 |
| 其他公有云 | 不支持 | 未验证 | 不适用 | 腾讯云、AWS、Azure、Google Cloud 等尚未完成当前安装器的端到端兼容性测试,不得直接用于正式交付。 |
4. 平台管理 — PoC 部署(All in One)
4.1 资源要求
| 项 | 最低要求 |
|---|---|
| 节点数 | 1 |
| CPU | ≥ 16 核 |
| 内存 | ≥ 24 GB |
| 磁盘 | ≥ 200 GB |
| 网络 | 可连接互联网 |
| 操作系统 | Linux(推荐 Ubuntu 22.04) |
4.2 架构示意
| 项目 | 说明 |
|---|---|
| 适用范围 | AGIOne 全栈部署方案设计、售前支持、PoC 评估、生产交付 |
| 约束级别 | 本文档为规划参考,正式交付应以 agione-release-v1.0-XXX.tar.gz 配套的 Release Note 与兼容矩阵为准 |
- 业务服务、数据库、中间件全部部署在同一节点上。
- 默认通过 HTTP 端口
18090对外提供服务。 - 由于需要拉取镜像与依赖,部署节点必须能访问互联网。
- 不建议用于生产,无高可用、无数据冗余。
5. 平台管理 — 生产部署(公有云)
公有云部署为推荐的生产部署模式,充分利用云厂商提供的托管数据库、缓存、消息、注册中心和对象存储能力。入口负载均衡需按项目单独验收。
5.1 资源要求
5.1.1 管理节点(业务节点)
| 项 | 要求 |
|---|---|
| 节点数 | ≥ 2 |
| CPU | ≥ 8 vCPU |
| 内存 | ≥ 16 GiB |
| 磁盘 | ≥ 200 GiB |
| 内网 | 所有管理节点位于同一 VPC |
| 公网 | 可访问互联网,带宽 ≥ 100 Mbps |
可选:可挂载共享存储(块存储等)≥ 1024 GB 供管理节点共享使用。
5.1.2 数据库与中间件
通用托管中间件基线要求如下:
| 组件 | 用途 | CPU | 内存 | 磁盘 | 节点数 | 网络要求 |
|---|---|---|---|---|---|---|
| RDS(MySQL 系关系型数据库) | 存储 AGIOne 平台主数据 | ≥ 4 vCPU | ≥ 16 GiB | ≥ 100 GiB | 按已验证产品形态 | 与管理节点同 VPC |
| Nacos | 服务注册与发现 | Basic 规格 | — | — | 1 | 与管理节点同 VPC |
| Redis(缓存) | 缓存数据 | Basic 规格 | — | — | 1 | 与管理节点同 VPC |
| Kafka(消息) | 核心服务消息总线 | 集群节点规格 | — | ≥ 100 GiB | ≥ 3 | 与管理节点同 VPC |
| 对象存储 | 存储图片等静态资源 | — | — | — | — | 通过 AK/SK 网络访问 |
| 入口负载均衡(项目级验收) | AGIOne API 负载均衡 | — | — | — | 1 | 后端与管理节点私网互通;公网可访问,≥ 100 Mbps |
下面的兼容矩阵是当前安装器允许正式交付的唯一云原生中间件范围。正式采购前还需在客户目标区域确认可用规格、可用区、计费方式和账号权限。
兼容性硬边界:数据库仅支持 MySQL 协议和 SQL 生态,但这不代表所有 MySQL 兼容数据库都已支持。当前只验证了下表中的阿里云 RDS MariaDB
10.3和华为云 RDS MariaDB10.11。标准 MySQL 的其他版本、其他 MariaDB 版本,以及达梦(DM)、人大金仓、GaussDB、openGauss、OceanBase(包括 MySQL 兼容模式)、TiDB、PostgreSQL、Oracle、SQL Server 等均不在支持范围。任何未列出的云厂商、产品、版本、实例形态或访问协议,在完成同版本端到端兼容性测试并更新本文前,一律按不支持处理。仅端口连通或登录成功不能作为兼容性证明。
阿里云托管中间件清单
| AGIOne 组件 | 已验证阿里云产品 | 已验证版本 / 形态 | 必要交付约束 | 支持状态 |
|---|---|---|---|---|
| 数据库 | ApsaraDB RDS for MariaDB | MariaDB 10.3;高可用版;cloud_essd;实测规格 mariadb.n2.small.2c | 使用 VPC 内网地址;安全组 / 白名单只放行应用节点;初始化账号需具备建库、建表、变更 schema 和读写权限 | 已支持,仅限此基线 |
| Redis | Tair / ApsaraDB for Redis | Redis 5.0;Local 标准主从;实测规格 redis.master.small.default | 使用 VPC 内网地址并配置应用节点白名单;Redis 4.0、6.0、7.0、集群版及其他产品形态未纳入本次支持范围 | 已支持,仅限此基线 |
| Nacos | Microservices Engine(MSE)Nacos | Nacos 2.0(NACOS_2_0_0);mse_dev;实测规格 MSE_SC_1_2_60_c、1 个实例 | 使用原生 Nacos API;运行账号必须具备 agione-prod 命名空间的配置发布和服务管理权限;其他版本、专业版或不同实例规模需重新测试 | 已支持,仅限此基线 |
| Kafka | ApsaraMQ for Kafka | 服务版本 2.2.0;普通版;alikafka.hw.2xlarge;3 broker;VPC PLAINTEXT | 必须使用服务返回的 VPC advertised broker;开启服务端自动建 Topic,并创建所需 Consumer Group;SASL / SSL、其他版本和 Serverless 形态未纳入本次支持范围 | 已支持,仅限此基线 |
| 对象存储 | Object Storage Service(OSS) | 云服务无独立引擎版本;Standard 私有 Bucket;内网 S3 兼容 endpoint | 必须使用 virtual-host-style 访问;禁止公开写入;运行凭据只授予目标 Bucket / 前缀所需的上传、下载、列举和删除权限 | 已支持,仅限此接入方式 |
阿里云权限重点:使用可选云资源辅助脚本创建资源时,执行账号 / RAM 角色必须具备对应产品的创建、查询、白名单和服务关联角色授权能力。云资源创建身份必须与 AGIOne 运行时的数据库、Redis、Nacos、Kafka、OSS 账号和密钥分开管理。主安装器只消费最终生成的端点、端口和最小权限运行凭据,不应在主安装 YAML 中保存云账号 AK/SK。权限不足、RAM 策略未生效、服务关联角色缺失或白名单未放行时,不得开始正式安装。
华为云托管中间件清单
| AGIOne 组件 | 已验证华为云产品 | 已验证版本 / 形态 | 必要交付约束 | 支持状态 |
|---|---|---|---|---|
| 数据库 | RDS for MariaDB | MariaDB 10.11;实测为单实例、CLOUDSSD、规格 mariadb.n1.large.2 | 使用 VPC 内网地址;安全组只放行应用节点;账号需具备初始化库表权限。主备高可用形态尚未完成同版本端到端回归 | 已支持,仅限实测单实例基线 |
| Redis | Distributed Cache Service(DCS)for Redis | Redis 7.0;单机形态;实测规格 redis.single.au1.large.1、1 GiB | 使用 VPC 内网地址并配置密码和访问策略。主备、Cluster 和其他 Redis 版本尚未完成端到端回归 | 已支持,仅限实测单机基线 |
| Nacos | Cloud Service Engine(CSE)Nacos | Nacos2,服务版本 2.1.0.24;规格 cse.nacos2.c1.large.10;RBAC | 使用原生 Nacos API;运行账号必须具备 agione-prod 命名空间和配置发布权限;其他 CSE 版本 / 规格未纳入支持范围 | 已支持,仅限此基线 |
| Kafka | Distributed Message Service(DMS)for Kafka | Kafka 2.7;3 broker;产品规格 s6.2u4g.cluster.small;300 GiB 通用存储;PLAINTEXT | 使用私网 bootstrap 与 advertised broker;其他版本、SASL / SSL 或不同产品形态需重新完成兼容性测试 | 已支持,仅限此基线 |
| 对象存储 | Object Storage Service(OBS) | 云服务无独立引擎版本;私有 Bucket | 必须使用 virtual-host-style 访问;通过最小权限 AK/SK 或临时授权访问,避免公开读写 | 已支持,仅限此接入方式 |
入口服务边界:阿里云 ALB、MSE 云原生网关和华为云 ELB 不属于当前托管中间件端到端兼容矩阵。需要使用时必须按项目完成 HTTPS、健康检查、会话、上传大小和长连接验收;验收完成前按不支持处理。通用 TCP 负载均衡不能替代 Kafka advertised broker 地址。
5.1.3 容量与扩展性
- AGIOne 管理节点可水平扩展。
- 每个节点(8 vCPU / 16 GB RAM)基准容量约 2000 请求/分钟。
- 长连接或耗时请求较多时,每新增 1 个节点可增加约 500 请求/分钟(实际数值随业务场景而变)。
5.2 架构示意
5.3 部署说明
- 在兼容矩阵范围内使用云厂商托管数据库、Redis、Nacos、Kafka 和对象存储,降低运维复杂度。
- 业务节点可通过经项目验收的负载均衡服务暴露入口,配置域名后使用 443(HTTPS)与 80(HTTP 跳转)。
- 所有内部组件位于同一 VPC,禁止跨 VPC 暴露内部端口。
- 公网带宽建议 ≥ 100 Mbps,按业务量调整。
6. 平台管理 — 生产部署(私有云 / IDC)
适用于无法使用公有云、需要数据完全自持的场景。
6.1 资源要求
6.1.1 必选资源(节点)
| 角色 | 节点数 | CPU | 内存 | 磁盘 | 网络 | 说明 |
|---|---|---|---|---|---|---|
| 业务节点 | ≥ 2 | ≥ 8 核 | ≥ 16 GB | ≥ 200 GB | 内网; 可访问外部网络, 带宽>=100G | 部署 AGIOne 业务服务 |
| 数据库 / 中间件节点 | ≥ 2 | ≥ 8 核 | ≥ 16 GB | ≥ 200 GB | 内网 | 部署 MariaDB(主从)、Nacos、Redis、Kafka、MinIO |
| 合计 | ≥ 4 | — | — | — | - | — |
6.1.2 可选资源
| 资源 | 必选 / 可选 | 推荐配置 | 用途说明 |
|---|---|---|---|
| 负载均衡 (LB) | 可选 | 硬件 LB(F5 等)或软件 LB(Nginx / HAProxy + Keepalived) | 统一入口、流量分发、健康检查。未部署时可使用 DNS 轮询直连业务节点,但缺少健康检查与故障自动剔除能力。 |
| NAS 共享存储 | 可选 | 容量 ≥ 1024 GB;通过 NFS / CIFS 挂载到所有节点 | 存放公共日志、服务配置、共享文件 / 临时数据等需要跨节点访问的内容。未部署时可使用本地磁盘 + 日志收集(如 Filebeat / Fluent Bit)方案替代。 |
6.2 架构示意
6.3 部署说明
- 最少 4 节点起步:2 业务节点 + 2 数据库中间件节点。
- 数据库采用主从模式,建议数据库与中间件分别独立部署,根据业务规模可拆分为更多节点。
- MinIO 提供对象存储能力,替代公有云 OSS。
- 负载均衡(LB)为可选项:推荐部署以获得统一入口与高可用;未部署时可使用 DNS 轮询直连业务节点。
- NAS 共享存储为可选项:用于存放公共日志、服务配置等跨节点共享内容;未部署时使用本地磁盘 + 日志收集方案。
7. 算力节点纳管
7.1 设计原则
- 每个独立的地域算力池作为一个逻辑单元独立部署,避免跨地域调度带来的网络抖动。
- 每个地域算力池在算力节点近端部署镜像服务,可复用已纳管的节点资源。
- 部署 Kubernetes 集群以及配套调度、监控等插件。
7.2 Kubernetes 控制面规模
节点要求:
| 算力池节点总数 | Kubernetes 控制面节点数 | 说明 |
|---|---|---|
| < 3 节点 | 1 节点 | 单点控制面,适用于小规模算力池 |
| ≥ 3 节点 | 3 节点 | 高可用控制面,etcd 集群多副本 |
存储要求:
- 需要至少 2 TB NAS 存储。
- (可选):支持 S3 协议的对象存储,容量大于 2 TB。
网络要求:
- 管理网络必须在同一个局域网。
- 节点间网络带宽要求 >= 1000 Mbps。
- (可选)互联网网络要求:所有节点均能访问互联网。
7.3 架构示意
7.4 端口对外暴露
每个算力集群通过 NodePort 形式暴露以下端口给平台管理层调用:
| 端口 | 用途 |
|---|---|
| 6443 | Kubernetes API Server |
| 32761 | 监控接口 |
| 32762 | 模型及 IDE 调用端口 |
| 32763 | 拓展备用端口 |
| 32764 | 拓展备用端口 |
| 32765 | 拓展备用端口 |
7.5 部署说明
- 算力节点应预先安装并校验 GPU / NPU 驱动、容器运行时(containerd 等)及对应的 device plugin。
- 镜像服务建议与算力节点位于同一二层或低延迟网络中,加速大体积模型镜像的拉取。
- 多地域部署时,建议每个地域独立维护一套近端镜像,避免跨地域拉取镜像。
8. 网络规划
8.1 网络分区
8.2 网络要求总览
| 网络方向 | 要求 |
|---|---|
| 用户 → ELB | 公网;生产建议 443/HTTPS,由 DNS 解析域名 |
| ELB → 业务节点 | 内网,同 VPC |
| 业务节点 ↔ DB / 中间件 | 内网,同 VPC,低延迟 |
| 业务节点 → 对象存储 | AK/SK 鉴权,可走 VPC 内网 endpoint |
| 业务节点 → 算力集群 | 通过 6443 与 32761–32765 端口 |
| 算力节点 → 近端镜像 | 算力池近端局域网,建议 ≥ 千兆 |
| 管理节点 → Internet | PoC 必须;生产建议保留出站能力用于拉取镜像与升级,带宽 ≥ 100 Mbps |
8.3 VPC / 子网建议
- 平台管理 VPC:所有管理节点、RDS、Nacos、Redis、Kafka、MinIO 位于同一 VPC,可按业务节点子网、数据节点子网划分。
- 算力 VPC:每个地域算力池独立 VPC 或子网,与平台管理 VPC 通过 VPC 对等连接或专线打通。
- 安全组:默认拒绝,仅放行下文"端口清单"中的端口。
9. 端口清单
9.1 平台管理端口
| 端口 | 协议 | 来源 | 用途 |
|---|---|---|---|
| 18090 | TCP / HTTP | 用户 / 内部 | 默认 HTTP 服务端口(PoC 默认使用) |
| 80 | TCP / HTTP | 公网用户 | 生产环境(配置域名后)HTTP,通常 301 跳转至 443 |
| 443 | TCP / HTTPS | 公网用户 | 生产环境(配置域名后)HTTPS |
9.2 算力集群端口
| 端口 | 协议 | 来源 | 用途 |
|---|---|---|---|
| 6443 | TCP | 平台管理层 | Kubernetes API Server |
| 32761 | TCP | 平台管理层 | 监控接口 |
| 32762 | TCP | 平台管理层 | 模型及 IDE 调用 |
| 32763 | TCP | 平台管理层 | 拓展备用端口 |
| 32764 | TCP | 平台管理层 | 拓展备用端口 |
| 32765 | TCP | 平台管理层 | 拓展备用端口 |
9.3 内部服务端口(参考)
数据库、中间件和应用内部服务均建议仅在 VPC / 局域网内部开放,不对公网暴露。实际检查范围会根据自建中间件、托管中间件和可选服务组自动调整:
| 组件 / 服务组 | 默认端口(参考) |
|---|---|
| RDS(MySQL 系) | 3306 |
| Nacos | 8848 / 9848 / 9849 |
| Redis | 6379 |
| Kafka / Kafka UI | 9092 / 9093 / 18091 |
| MinIO / MinStore | 8080 / 9000 / 9001 |
| AGIOne 基础应用服务 | 3000 / 4000 / 5007 / 7002 / 7003 / 8031 / 8032 / 8033 / 8080 / 8089 |
kubem 可选服务组 | 8021 / 8022 / 18088 |
cloud 可选服务组 | 8011 / 8017 / 8012 / 8001 / 8002 |
core_isync 可选服务组 | 7091 / 18181 / 18082 |
实际端口以部署时使用的版本与配置为准。
10. 部署前检查清单
部署前请逐项确认,确保部署顺利:
基础环境
- [ ] 已根据场景确定部署模式(PoC / 公有云 / 私有云 IDC)
- [ ] 节点数量与规格满足资源要求
- [ ] 操作系统、内核版本符合要求
- [ ] 时钟已同步(NTP),各节点时区一致
网络
- [ ] 平台管理节点位于同一 VPC
- [ ] 管理节点可访问互联网(或已准备离线镜像)
- [ ] 安全组 / 防火墙规则已开放端口清单中的端口
- [ ] 算力集群与平台管理层网络互通
域名与证书(生产)
- [ ] 已申请并解析域名
- [ ] 已准备 HTTPS 证书
- [ ] 已规划 ELB 监听 443 / 80
算力集群
- [ ] 已确认每地域算力池节点数量,决定 K8s 控制面规模(1 或 3)
- [ ] GPU / NPU 驱动已安装并通过校验
- [ ] 已规划近端镜像服务节点
- [ ] NodePort 端口 6443、32761–32765 已对平台管理层放行
固定下载页:下载地址
打开页面后,复制页面中的 Download URL 与 MD5 URL。MD5 只用于发现下载或传输损坏,不能证明安装包发布方身份;正式生产交付还必须通过受控渠道独立获取外层 .tar.gz 的 SHA-256 摘要,并在解压前核对。
# 1. 下载交付包并校验 MD5
ssh root@<target>
AGIONE_RELEASE_PAGE="https://agione.cc/release/download/agione-release-latest"
AGIONE_RELEASE_URL="<复制下载页中的 Download URL>"
AGIONE_RELEASE_MD5_URL="<复制下载页中的 MD5 URL>"
AGIONE_RELEASE_ARCHIVE="${AGIONE_RELEASE_URL##*/}"
mkdir -p /opt/hyperone && \
cd /opt/hyperone && \
curl -fL -o "$AGIONE_RELEASE_ARCHIVE" "$AGIONE_RELEASE_URL" && \
curl -fL -o "$AGIONE_RELEASE_ARCHIVE.md5" "$AGIONE_RELEASE_MD5_URL" && \
echo "$(awk '{print $1}' "$AGIONE_RELEASE_ARCHIVE.md5") $AGIONE_RELEASE_ARCHIVE" | md5sum -c -# 2. 正式交付:核对外层压缩包 SHA-256
AGIONE_RELEASE_SHA256="<从可信交付渠道获取的外层压缩包 SHA-256>"
echo "$AGIONE_RELEASE_SHA256 $AGIONE_RELEASE_ARCHIVE" | sha256sum -c -
# 3. 校验通过后解压,并校验 split bundle
AGIONE_RELEASE_DIR="$(tar -tzf "$AGIONE_RELEASE_ARCHIVE" | head -1 | cut -d/ -f1)"
tar -zxvf "$AGIONE_RELEASE_ARCHIVE"
cd "/opt/hyperone/$AGIONE_RELEASE_DIR"
chmod +x ./agione
./agione verify-bundleverify-bundle 按 SHA256SUMS 校验解压后的 split bundle 文件。正式交付不得使用 AGIONE_SKIP_BUNDLE_VERIFY=1 跳过该检查。
11. 附录
11.1 资源规格速查
| 部署模式 | 最少节点 | 单节点最低规格 | 总资源参考 |
|---|---|---|---|
| PoC All in One | 1 | 8C / 24G / 200G | 8C / 24G / 200G |
| 公有云(业务节点) | 2 | 8C / 16G / 400G | 16C / 32G / 1 TB+ |
| 私有云 IDC | 4 | 8C / 16G / 200G | 32C / 64G / 800G+ |
11.2 容量评估参考
- 基准:每个业务节点(8C / 16G)≈ 2000 请求/分钟
- 扩展:每新增 1 个业务节点 ≈ +500 请求/分钟(长连接 / 复杂请求场景)
- 实际容量需结合:请求复杂度、模型推理时长、并发会话数等综合评估。
11.3 术语速查
| 术语 | 说明 |
|---|---|
| AGIOne | 本平台名称 |
| All in One | 单节点部署所有组件的简化模式 |
| VPC | Virtual Private Cloud,虚拟私有云 |
| ELB | Elastic Load Balancer,弹性负载均衡 |
| RDS | Relational Database Service,关系型数据库服务 |
| AK/SK | Access Key / Secret Key,访问密钥对 |
| NodePort | Kubernetes 暴露服务的端口方式之一 |
| 地域算力池 | 物理上位于同一地理区域、网络互通的一组算力节点 |