很多人在规划智算中心时,都会遇到一个困惑:
控制平面、数据平面、算力平面……
网关节点、运营节点、管理节点……
这些词到底谁包含谁?一个标准 AI 算力中心到底有哪些东西?
其实,只要抓住三个核心概念,整个体系就会立刻清晰:
物理节点:看得见、摸得着的硬件设备。
逻辑平面:按功能或流量划分的逻辑区域。
节点角色:一台物理设备在某个平面里承担的具体职责。
一句话概括:
物理节点是“躯体”,逻辑平面是“功能系统”,节点角色是“器官职责”。
一、先别急着记节点,先理解“逻辑平面”
“平面”不是硬件分类,而是逻辑功能域或流量域。
一个标准 AI 算力中心,通常不止三个平面。以常见的企业级智算中心参考架构来看,至少包含以下九大平面:
| 逻辑平面 | 核心职责 | 典型组件 |
|---|---|---|
| 接入平面 | 对外入口、SSL、限流、防护 | CDN、WAF、Nginx、API 网关 |
| 数据平面 | 实际业务流量转发与执行 | API 网关、vLLM、推理服务 |
| 算力平面 | GPU/NPU 资源池,跑训练和推理 | B300/H100 节点、vLLM、SGLang |
| 控制平面 | 集群管理、调度、编排、策略 | GPUStack Server、K8s Master、Slurm、Run:AI |
| 管理平面 | 配置、固件、电源、带外管理 | BMC、Redfish、Ansible、堡垒机 |
| 运营平面 | 监控、日志、告警、计费、成本 | Prometheus、Grafana、Loki、计费系统 |
| 存储平面 | 模型权重、数据集、checkpoint、日志 | 并行文件系统、对象存储、NVMe-oF |
| 网络平面 | 业务网、计算网、存储网、管理网、OOB 网 | IB/RoCE 交换机、25G/100G 以太网 |
| 安全平面 | 防火墙、IAM、密钥、审计、合规 | 防火墙、WAF、KMS、堡垒机 |
其中,“算力平面”并不是严格标准术语,它通常可以看作数据平面中的计算子集。
所以,标准算力中心不是只有三个平面,而是“控制 + 数据 + 算力”为核心,再叠加管理、运营、存储、网络、安全、接入等支撑平面。
二、再看“物理节点”:一个标准算力中心有哪些硬件?
物理节点就是实际存在的服务器、交换机、存储设备等。常见类型如下:
| 物理节点 | 主要硬件 | 典型角色/软件 | 所属逻辑平面 |
|---|---|---|---|
| GPU 算力节点 | B300×8、H100×8 等 | vLLM、SGLang、训练框架 | 算力平面、数据平面、管理平面 |
| 控制/管理节点 | x86:16C/64G | GPUStack Server、K8s Master、Slurm | 控制平面、管理平面 |
| 接入/网关节点 | x86:16C/64G/25G 双网卡 | Nginx、API 网关、keepalived | 接入平面、数据平面 |
| 运营节点 | x86:16C/64G/2-4TB SSD | Prometheus、Grafana、日志、计费 | 运营平面、管理平面 |
| 存储节点 | 存储服务器、全闪阵列 | 并行文件系统、对象存储 | 存储平面 |
| 网络设备 | IB/RoCE 交换机、以太网交换机 | Spine/Leaf、OOB 管理网 | 网络平面 |
| 安全设备 | 防火墙、WAF、堡垒机 | 安全策略、审计、入侵防护 | 安全平面 |
| 带外管理设备 | BMC、Redfish、IPMI | 远程开关机、固件升级 | 管理平面 |
| 数据库/中间件节点 | x86 | PostgreSQL、MySQL、Redis | 控制平面、运营平面 |
| 登录/开发节点 | x86 | SSH、编译、任务提交 | 管理平面、控制平面 |
| 备份/归档节点 | 存储服务器 | 备份软件、归档 | 存储平面、运营平面 |
| 基础服务节点 | x86 | DNS、NTP、LDAP/AD | 管理平面、控制平面 |
注意:一台物理节点可以同时属于多个逻辑平面。
例如一台 B300 推理服务器:
跑 vLLM → 属于算力平面 + 数据平面
被 GPUStack 管理 → 属于控制平面的受管对象
有 BMC 网口 → 属于管理平面
有监控 agent → 属于运营平面
三、节点角色:物理节点在平面里“干什么”
“节点角色”是逻辑概念,不是物理概念。
同一个物理节点,可以承载多个角色。
常见角色举例:
| 角色 | 职责 | 通常部署在 |
|---|---|---|
| GPUStack Server | 管理 Worker、部署模型、调度实例 | 控制/管理节点 |
| GPUStack Worker | 跑 vLLM,执行推理 | GPU 算力节点 |
| Nginx / API 网关 | SSL、路由、限流、白名单 | 接入/网关节点 |
| Prometheus / Grafana | 指标采集、可视化、告警 | 运营节点 |
| BMC / Redfish | 带外管理、电源、固件 | 所有服务器 |
| K8s Master / Slurm | 容器编排、任务调度 | 控制节点 |
| 并行存储客户端 | 模型加载、checkpoint 读写 | 算力节点、存储节点 |
所以,“管理节点”是一个广义统称,它可能包含:
控制平面角色:GPUStack Server、K8s Master
管理平面角色:Ansible、堡垒机、BMC
运营平面角色:Prometheus、Grafana、计费
而网关节点不是管理节点,它属于接入平面 + 数据平面,是流量入口。
运营节点广义上算管理节点,但更准确地说,它属于运营平面。
四、一张图看懂标准 AI 算力中心
外部用户 / 互联网 ↓ [接入平面] CDN / WAF / Nginx / API 网关 ↓ [数据平面] 路由、鉴权、限流、推理请求 ↓ [算力平面] GPU 节点:vLLM / SGLang / 训练框架 ↑ │ 受控于 [控制平面] GPUStack Server / K8s Master / Slurm / Run:AI ↑ │ 监控于 [运营平面] Prometheus / Grafana / 日志 / 计费 ↑ │ 管理于 [管理平面] BMC / Redfish / Ansible / 堡垒机 ↑ │ 支撑于 [存储平面] 并行文件系统 / 对象存储 / checkpoint [网络平面] IB/RoCE / 以太网 / OOB 管理网 [安全平面] 防火墙 / IAM / KMS / 审计五、典型流量路径:推理请求怎么走?
以你文档中的 Token 工厂为例:
用户请求 ↓ Nginx 网关节点(SSL、VIP、限流) ↓ API 网关 / 模型路由 ↓ B300 推理节点上的 vLLM ↓ GPU 计算,流式返回 Token而 GPUStack Server 通常不在这个请求路径上。它负责:
GPUStack Server(控制平面) ↓ 下发部署、调度、扩缩容、策略 B300 Worker(算力平面) ↓ 执行推理 返回结果所以:
GPUStack Server 挂了:已运行的 vLLM 可能继续服务,但不能部署新模型、扩缩容、改配置。
Nginx 网关挂了:所有外部 API 入口中断,影响最大。
运营节点挂了:监控、日志、计费中断,推理本身不一定中断。
B300 推理节点挂了:对应模型容量下降,由网关或 GPUStack 摘除。
六、你文档里的角色,重新定位一下
| 文档角色 | 逻辑平面 | 物理节点类型 | 是不是管理节点? |
|---|---|---|---|
| 16 台 B300×8 推理节点 | 算力平面 + 数据平面 | GPU 算力节点 | 不是,是算力/数据节点 |
| 2 台 x86 网关节点 | 接入平面 + 数据平面 | 接入/网关节点 | 不是,是数据面入口 |
| 1 台 x86 运营节点 | 运营平面 + 管理平面 | 运营节点 | 广义算管理节点 |
| GPUStack Server | 控制平面 + 管理平面 | 控制/管理节点 | 是,核心管理节点 |
| 存储(未列但需要) | 存储平面 | 存储节点 | 不是,是存储节点 |
| BMC/OOB | 管理平面 + 网络平面 | 带外管理设备 | 是,底层管理 |
七、常见误区
把控制平面等同于管理节点
控制平面只是管理的一部分,管理还包括带外、配置、固件、电源。把网关节点当管理节点
网关节点是数据面入口,属于接入平面,不是控制平面。认为一个节点只属于一个平面
一台 B300 同时属于算力、数据、管理、运营等多个平面。认为算力中心只有三个平面
生产级算力中心至少有接入、数据、算力、控制、管理、运营、存储、网络、安全九大平面。忽略带外管理、存储、网络、安全
这些是算力中心稳定运行的基石,不是可选项。
八、总结:一句话记住
物理节点是硬件,逻辑平面是功能,节点角色是职责。
一个标准 AI 算力中心 = 多类物理节点 + 九大逻辑平面 + 多种逻辑角色。
控制平面:管调度、编排、策略 → GPUStack Server、K8s Master。
数据平面:管请求转发和实际计算 → Nginx、vLLM。
算力平面:数据平面里的 GPU 计算子集 → B300 节点。
接入平面:对外入口 → 网关节点。
运营平面:监控、日志、计费 → 运营节点。
管理平面:配置、带外、电源 → BMC、Ansible、堡垒机。
存储平面:模型、数据、checkpoint → 存储节点。
网络平面:IB/RoCE、以太网、OOB → 交换机。
安全平面:防火墙、IAM、审计 → 安全设备。
把这套框架记住,再回头看任何智算中心方案,你都能快速判断:
哪些是物理节点,哪些是逻辑平面,哪些是节点角色。