我前阵子在行业群里看到一条消息:意法半导体(STMicroelectronics)在业绩沟通里给了一个相当大胆的判断,说未来AI相关收入里,预计会有八成左右的比例来自光连接方向。第一眼我也愣了一下,一家以MCU、功率器件、传感器见长的老牌IDM,怎么把AI收入的宝押在“光”上?后来把AI机房当成一张网重新看了一遍,这个判断就顺理成章了——算力堆得越大,芯片之间的通信就越吃紧,连接已经不只是设备,而是整套AI基础设施里最值钱的那一段。这篇文章我就从算力和通信的关系、光连接产业链、以及我们自己评估项目时怎么判断带宽瓶颈这几个角度,把“为什么算力越大、通信越值钱”这件事掰开揉碎讲清楚。
1. STMicro这条预测到底在说什么
很多朋友看到“STMicro预计八成AI收入来自光连接”,第一反应是:那八成八成是多少,是不是虚张声势。其实不是,意法半导体不是要转型做光纤运营商,也不是要去抢光模块整机市场,它是在说自己的产品结构里,AI带来的增量收入主要会落在光连接相关的半导体芯片上。
1.1 先还原一下“八成”的实际含义
在数据中心里,AI服务器需要处理海量数据,尤其是训练和大规模推理场景,GPU、AI加速器彼此之间要不停交换参数和中间结果。数据不走CPU主人家的门口,而是走高速网络,这个网络从机柜内部到机柜之间,再到跨数据中心,凡是用来传数据的光模块、光引擎、连接器里的半导体器件,都可以算进光连接相关收入。
ST做的不是终端光模块,它主要是做光模块里的收发芯片,比如激光驱动器、跨阻抗放大器TIA、时钟数据恢复CDR,还有一些功率相关的配套器件。也就是说,一个光模块插到交换机或GPU服务器里,模块里的“视网膜”和“神经”芯片可能是ST这类上游半导体公司提供的。报道里提到的“八成”,是ST对AI业务组合的一种预测,不是指整个公司收入,也不是说光模块市场八成份额归它,而是“AI带来的收入增长中,大部分来自和光连接相关的器件”。
这个判断说明了什么?说明在整个AI硬件链条里,算力芯片确实在赚钱,但围绕着“怎么把算力喂饱”的通信芯片也在起量,而且增速可能比算力本身还猛。光连接不再是“一根光纤的事”,而是一整条半导体赛道。
1.2 “AI收入”为什么会被光连接“吃掉”一大块
拆开看,AI相关的半导体需求集中在三条线上:算力芯片(GPU、TPU、类脑芯片)、存储芯片(HBM、DDR5)、通信芯片(SerDes、DSP、光模块电芯片、交换芯片)。过去提到AI,大家直勾勾盯着算力芯片,但一个AI集群真正跑起来,通信芯片的数量和单价其实非常可观。
举个例子,一台八卡GPU服务器,如果走的是主流PCIe或NVLink组网,每卡对外带宽动辄几百Gbps。机柜内互连、跨机柜Spine交换、跨机房DCI,每一段都需要光模块。一个大型训练集群动辄几千上万张GPU,按端口数算,光模块数量是服务器的数倍。单个模块价格从几百到上万不等,越高速越贵,这还没算光模块里的DSP芯片、驱动器、TIA和各种无源器件。
所以ST说AI收入里八成来自光连接,本质上是在讲:未来AI硬件投资的边际增量,有相当大比例会流向通信环节。算力芯片当然贵,但你不可能只买一块GPU就训练大模型,你需要把它连成一张网。这张网的成本,会随着算力规模上升而暴涨。
2. 算力和通信的底层关系:带宽正从配角变主角
“算力越大、通信越值钱”不是一句口号,它背后是一条硬逻辑:单个加速器再强,如果没有足够的通信能力,整个集群的算力利用率会呈断崖式下降。这里最著名的就是木桶效应——整柜GPU的算力是由最慢那条通信链路决定的。
2.1 从单机到集群,通信从附件变成刚需
以前做传统服务器,网络接口可能只是为了上传数据、下载模型、同步日志,CPU本身的计算不依赖网络,网络断了顶多不能远程登录。AI不一样,大模型训练天然是分布式任务,模型参数分散在多张GPU上,每个训练批次结束后,所有GPU必须把梯度同步起来,再统一更新参数。
这个同步动作是强制性的,缺一次,模型权重就乱了。所以通信不再是“偶尔用一下”,而是每一轮训练迭代都绕不开的必经之路。如果通信延迟太高,GPU算完一组数据后还得空转等待,等着网络把共享信息传回来。说白了,高速网络是为了让多余的算力不闲着。
实际训练时,我们常用数据并行、张量并行、流水线并行,每种并行策略都要在不同节点之间交换张量。张量并行尤其狠,每个Transformer层的计算都要把激活值切到不同GPU上,通信粒度小、频次高,稍微慢一点,整层计算都在等通信。于是通信性能从“网络工程师关心的问题”变成了“算法工程师也得盯着的指标”。
2.2 一次训练任务里,通信到底占多少时间
不少刚接触AI基础架构的朋友会问:通信带宽100G和400G差多少?差得非常多。大模型训练有个通用经验值:在千卡级集群里训练千亿参数模型,通信时间能占到整体迭代时间的20%到40%。如果集群规模再大、模型再长,通信占比还可能更高。
我做了一次很小的实验,在实验室里模拟数据并行训练的通信过程。假设模型参数是70亿,采用全量梯度同步,每个训练步需要交换约140亿个浮点数(参数*2,因为梯度Float和优化器状态还要额外算),按一个float占4字节,那一轮梯度同步至少需要56GB的数据量。如果网络带宽是400Gbps,换算成实际传输速率大概45GB/s(实际上要考虑协议开销,可能只有六成左右),那单是梯度同步就要将近1.5秒。
这1.5秒是纯额外开销,GPU计算本身可能只需要0.5秒。如果不优化通信,整个训练步就要2秒,算力利用率直接掉到25%。如果带宽翻四倍到1.6T,同步时间能压到0.4秒左右,训练效率立刻回到70%以上。这个例子很粗糙,但道理很直接:通信带宽直接决定算力能不能干满。
2.3 万卡集群的经典瓶颈卡点
我参与过一个中等规模的推理集群扩容项目,规模远不到万卡,但也有几百张加速卡。扩容前大家只盯着单卡算力,买机器时选的是高算力版本,但网络选择的还是上一代的100G方案。结果一上线,业务方说吞吐上不去,显卡利用率只有20%。
排查下来问题很清楚:因为QPS高、并发请求多,模型实例之间要做分布式推理,每个请求都可能触发跨节点的KV Cache交换和中间结果聚合。100G的网卡成了瓶颈,GPU算得再快,数据输不出去也白搭。后来我们把节点间的东西向流量升级到400G,并配了对应的光模块和交换机,显卡利用率直接翻倍。这次经历让我彻底认可了“算力越大、通信越值钱”的说法——瓶颈永远在水桶最短的那块板子上。
3. 为什么偏偏是光连接,而不是继续优化铜线
很多人会问:通信必须用光吗?能不能用更粗的铜缆硬上高速?答案是可以,但走到一定程度,电信号会被物理规则按在地上摩擦。光连接在AI时代成为刚需,不是营销推出来的,是材料物理和功耗经济算出来的。
3.1 铜线的高速极限在哪
铜缆的优点是便宜、接口成熟、可维护性强,短距离直连铜缆DAC在机柜内部仍然广泛使用。但它有两个致命短板:距离和功耗。信号频率越高,铜导体和介质的损耗越严重,超过两三米,眼图就塌了;想传得更远,就得靠均衡技术增强信号,这会让收发端的功耗急剧上升。
我看过一组对比:10米距离上,400G铜缆的链路预算非常紧张,基本只能用于机柜内部顶多机柜相邻。而光模块可以用单模光纤轻松跑到几百米甚至十公里,且速率上升到1.6T后,铜缆的密度和散热问题几乎无解。AI集群是典型的“高密度、高带宽、跨设备互联”场景,机柜内可以暂时用铜,但机柜间和更高层级的汇聚层,光连接是明确的最优解。
另外,“光猫先连接交换机有什么好处”这类搜索词其实也反映了另一层问题:很多人把光连接等同于家庭宽带的光猫。实际上数据中心的光连接是另一套体系,重点是低延迟、高带宽、高可靠性。光猫连接交换机的好处是减少一层NAT和转换开销,数据中心的思路如出一辙,能少一次光电转换就少一次延迟。
3.2 光模块里到底藏了哪些半导体芯片
要理解ST为什么看好光连接,完整拆一个800G光模块的BOM(物料清单)就明白了。光模块不只是简单的激光器和光纤,内部包含光发射部分、光接收部分、数字管理部分。
光发射部分有激光器(比如EML电吸收调制激光器、硅光调制器),还需要激光驱动器,把数据信号放大到足以驱动激光器的幅度;光接收部分有光电探测器(PD或APD),后面接一个TIA,把微弱的电流信号转成电压信号并放大;再往后是CDR和DSP,负责时钟恢复和信号均衡。一颗400G以上的光模块里,DSP芯片的价格可能占模块总成本的三到四成,其他模拟前端芯片再占一到两成。
这部分正是ST这类IDM的强项,也是“AI收入来自光连接”的抓手。你算力网络升级到800G甚至1.6T,光模块需求量翻倍,每个模块里的电芯片数量和价值量翻倍,上游半导体公司自然跟着吃肉。更关键的是,光模块速率越高,对驱动器和TIA的带宽要求越高,芯片工艺门槛和单价也越高,这不是单纯的量增,是量价齐升。
3.3 从400G到800G再到1.6T,增长逻辑清晰可见
AI光模块的迭代速度非常快。前两年主流量是400G,现在新建集群开始切800G,1.6T已经在头部云厂商的规划和测试中。每一代速率提升,不是把模块做大,而是往更高密度、更优功耗里挤。
具体到芯片端,400G光模块通常用100G/lane的四通道方案,800G则可以用100G/lane乘八通道,或者200G/lane乘四通道。通道数上升意味着驱动器和TIA的数量线性增长,lane速率上升到200G以后,对芯片的工艺、封装、测试要求全线提升。换句话说,光模块每升一代,芯片行业吃到的“通信红利”就厚一分。
从整柜功耗也能感受到压力:一个800G光模块功耗大约在12到15瓦,1.6T可能到20瓦以上。一个机柜几十个模块,光通信本身就成了不小的散热负担。芯片厂要做的不仅是让速率上去,还要让每比特功耗降下来,这就给新工艺、新材料和共封装光学(CPO)留下了大量空间。
4. 通信变值钱之后,产业链和从业者都在受什么影响
“通信值钱”不是一句宏观判断,它会实实在在地改变产业链利润分配,也改变技术岗位的技能要求。对普通从业者来说,早点看清这个方向,不管是选项目、选岗位还是选预算,都能少踩一些坑。
4.1 光通信产业链上谁最受益
整个链条从下游到上游大致是:云厂商和数据中心用户 → 光模块/光引擎厂商 → 光芯片和电芯片厂商 → 材料和设备厂商。每个环节的受益程度不一样。
- 光模块整机厂:中际旭创、新易盛、Coherent等,直接放量,800G/1.6T产品利润率高;
- DSP芯片厂:博通、Marvell这类,在高速模块里卡位极深;
- 模拟/混合信号芯片厂:ST、Macom、Semtech等,提供驱动器和TIA,单价值量不如DSP,但量很大;
- 光纤连接器、PCB、电源管理厂商:跟着端口数涨;
- 交换机/网卡芯片厂:AI集群要配高带宽交换矩阵,高端交换芯片订单排期很长。
这个链条有个特点:谁离“速率升级”越近,谁就吃得越久。因为光模块整机可能有价格战,但上游芯片是卖铲子的逻辑,只要端口数在涨、速率在涨,芯片出货量和单价就能同步走高。
4.2 通信工程师和嵌入式开发者迎来新机会
很多传统通信工程师担心被AI卷掉,其实恰恰相反,AI集群把通信的门槛拉高了一大截。以前调个路由器、配个VLAN就能过日子,现在需要理解RDMA、RoCEv2、Infiniband、拥塞控制、无损以太网,这些技能一度是少数高性能计算专家的领域,现在成了AI基础设施团队的日常。
嵌入式开发者同样有红利。光模块里的MCU、电源管理、信号调理芯片需求量巨大,这类工作既懂硬件又懂协议,恰好符合ST、Macom这类IDM的人才画像。我自己带过几个做单片机的小伙伴转行做光模块固件,他们发现串口通信、SPI、I2C这些老基本功全用得上,因为光模块内部也需要配置寄存器、读取温度电压、上报诊断信息。通信协议从明线换成了暗线,但底层原理没变。
对开发者来说,我强烈建议找机会接触一下光模块的I2C或MDIO管理接口,学一学怎么读取模块的数字诊断监控信息。这比单纯调串口有意思得多,也是理解光通信很好的切入点。
4.3 企业采购AI资源时怎么用这套逻辑做预算
很多团队采购AI服务器时只盯着显卡,把网络预算一再压缩,结果是算力利用率很低,项目周期拉长,最后算总账反而更贵。我的建议是,在做资源配置时把通信当成一等公民来规划。
默认几个原则:训练集群节点间主网络带宽不要低于单卡出口带宽的80%;推理集群如果QPS高、模型大,优先保证东西向带宽;能上RDMA就不要只用普通TCP;光模块和网卡可以分阶段扩容,但交换机和光缆架构最好一次到位。算力是固定成本,通信是持续收益,网络架好了,后面加算力是线性收益,网络拉胯,加多少卡都是空转。
我见过一个真实的项目,为了省十几万网络预算,最后多花了上百万租算力来弥补效率损失,典型的捡了芝麻丢西瓜。希望看到这篇文章的朋友不要重蹈覆辙。
5. 实操心得:怎么评估自己的项目是否需要更值钱的通信
说了这么多宏观逻辑,落到自己项目上该怎么办?这里分享一套我实际在用的评估方法,不复杂,核心就三步:算通信量、看通信比例、定网络方案。这个流程对有大模型训练需求的团队特别适用,中小团队也能参考。
5.1 三步判断法快速定位带宽瓶颈
第一步,估算单次迭代的通信量。以数据并行为例,通信量约等于模型参数量乘以优化器状态系数,再乘以梯度同步次数。简单点说,70亿参数的模型,梯度同步一遍至少几十GB,Bfloat16精度下按字节数算就行。
第二步,测一下真实训练里的通信耗时占比。用训练日志里的step时间减去纯计算时间,得到通信时间。通信时间占整体20%以下,问题不大;超过30%,说明网络配置已经拖后腿了;超过50%,那就要认真优化通信策略或升级带宽。
第三步,按目标和预算选择网络。机柜内短距离可以用高速铜缆顶一顶,机柜间一定上光。400G和800G之间做取舍时,别只看当下价格,要看未来一年模型规模会不会翻倍。光模块可以后期加,交换机和结构化布线一定留足升级空间。
顺便提醒一句,很多人搜“光猫先连接交换机有什么好处”,是在家庭或办公网络里想优化连接顺序,这个思路是对的。减少光电转换层级、让主路由直接对接光猫,能降低延迟。数据中心也是一样,能不转就不转,能不跳就不跳。
5.2 常见认知误区速查表
| 误区 | 实际情况 |
|---|---|
| 只要算力芯片好,性能就高 | 通信带宽不足会严重拖低算力利用率 |
| 光模块只是“一根光纤” | 里面包含激光器、驱动、TIA、DSP等多种半导体器件 |
| 铜缆更便宜,能用就用 | 高速率长距离下铜缆功耗和衰减反而更高 |
| 网络不够等业务上量再升级 | 网络架构改造难度远高于加服务器,应提前规划 |
| 通信技术是传统行业,没前途 | AI集群让通信技术变成高价值核心能力 |
这里面的每一条我都踩过或见证过。尤其是“网络不够再升级”,在传统机房里听起来合理,但在AI集群里是完全不成立的。因为光网络的布线、交换机的端口形态、甚至机柜的供电散热都受架构约束,临时升级等于推倒重来。
5.3 实际项目里我踩过的两个坑
第一个坑是低估了光模块的功耗和散热。我们在一个旧机房改造项目里加了高速光模块,光性能达标了,但机柜局部温度直接飙红,触发降频,结果通信没拖后腿,散热开始拖后腿。后来在方案里加了液冷导轨和风扇分流才解决。算力越堆越密的时候,散热不是基建问题,是性能问题。
第二个坑是协议栈选型不匹配。我们一开始用普通TCP传大模型训练梯度,结果400G网卡只能跑出100多G的效果,因为TCP的拥塞控制和重传机制在大规模同步场景下太吃亏。后来换成RDMA/RoCEv2,并调了PFC和ECN参数,带宽利用率立刻上来。这个坑给我们的教训是:硬件带宽只是上限,协议栈决定实际能拿到多少。
新版光模块的DSP芯片本身也能做很多链路优化,比如CDR恢复、预加重、均衡器调优。调试时不要只盯着光功率,还要关注误码率和FEC余量,很多“能用但慢”的问题都出在链路余量不足上。
结尾聊一点个人体会
我做了不少年硬件和网络相关的项目,越来越觉得,AI这波浪潮里最值钱的不是某一颗芯片,而是“把足够多的芯片高效地组织起来”的能力。STMicro那条预测之所以让我印象深,是因为它把行业里一个隐性趋势摆上了台面:AI收入不再只是算力芯片的天下,通信硬件会成为承载价值的重要载体。
最后再分享一个小技巧,不管是做训练还是做推理,都把网络的监控和算力监控放到同一个看板上。算力突然下降时,第一反应不光要去看GPU是不是降频,还要看网络丢包、流量、重传是不是异常。很多时候问题不在卡上,在链路上。先会看通信,才能真正懂AI基础设施。