☰
国产AI芯片真实差距:从架构到工具链的选型指南
2026/10/26 13:37:09 网站建设 项目流程

1. 这份"之二"到底在盘什么:调研边界与样本构成

做国产AI芯片厂商调研,最难的不是找资料,而是定边界。市面上叫得上名字的AI芯片公司已经超过百家,真正有流片记录、有量产产品、有公开客户案例的又是另一拨,两者差别很大。很多人一上来就问"哪家最强",但作为经历过选型和落地的人,我更愿意把问题拆成四层:有没有量产芯片、软件栈能不能用、客户是否真在采购、长期有没有人维护。这次调研的第二篇,就是围绕这些维度,把30家国产AI芯片厂商完整盘一遍。

1.1 30家样本从哪里来,又排除了谁

这30家不是闭眼从新闻里抓的,筛选逻辑其实很朴素:必须有明确的自研AI算力产品,要么是芯片本身,要么是围绕AI算力的IP和解决方案。纯做封装、测试、PCB载板或者只做模组的公司没有放进来,因为这些环节的竞争力更多在制造工艺和供应链,和AI计算核心关系不大。

样本分成四个阵营,每家都能放进对应格子:

阵营典型厂商
云端GPGPU/ASIC加速昇腾(海思半导体)、寒武纪、海光信息、景嘉微、摩尔线程、壁仞科技、沐曦、燧原科技、天数智芯、昆仑芯、平头哥半导体、登临科技、瀚博半导体、算能科技、中昊芯英、太初电子、后摩智能、亿铸科技
边缘/端侧SoC瑞芯微、晶晨股份、全志科技、亿智电子、爱芯元智、时擎科技、奕斯伟计算
车规智能驾驶地平线、黑芝麻智能
AI IP与定制服务芯原股份、芯动科技、国芯科技

把"国产AI芯片厂商"的定义放宽到IP公司,会有人质疑:芯原和芯动又不直接卖AI芯片。我的看法是,IP公司的架构被集成到大量SoC里,在端侧AI市场的影响力不比独立芯片公司小。尤其安防、家电、工业视觉这些对成本极度敏感的领域,很多终端芯片里的NPU就来自这些IP授权方。调研如果把这一层漏掉,结论会偏。

1.2 调研用的不是发布会PPT,而是五类交叉信息

这次结论依赖的信息渠道可以列一下,方便同样想跟这个产业的人复用:

  • 公开财报和招投标记录,能看出哪些芯片真正产生了收入,而不是停在样品阶段;
  • 开发者社区和兼容性issue,能看出工具链的真实痛苦程度;
  • 智算中心和采购方释放的招标规格,能看出哪些厂商在政企和运营商市场有实际批量;
  • 行业交流群里算法工程师的实际反馈,能看出售后和适配响应速度;
  • 自己做基准测试或者跟测试机构交叉验证,能看出纸面算力和实际吞吐的偏差。

这五类信息要互相印证。比如某厂商发布会宣称单卡训练吞吐多么亮眼,但公开招标里一直没出现,或者开发者社区大量反馈算子缺失,那这条宣传就要打个问号。反过来,如果招投标不多,但边缘端产品在电商平台长期大量出货,那说明它在另一个市场是活的。所以我更愿意把这份报告看作是"用脚投票"的结果,而不是"用嘴投票"。

2. 第一梯队与追赶者:从芯片实测与量产进度看真实差距

把30家放在一起横向看,最直观的分层标准不是算力高低,而是量产状态和真实出货规模。芯片行业最残酷的一点在于:流片成功和能用是两件事,能用和大规模上车、上架卖钱又是两件事。

2.1 四梯队划分,谁在真正创造收入

梯队判定标准代表厂商关键观察
T0:规模出货且生态成熟多代产品量产出货,软件栈被大量第三方验证昇腾、寒武纪、海光、昆仑芯、地平线、瑞芯微已经有稳定收入,真实客户案例可查
T1:量产起步、正在放量芯片流片量产,板卡/模组出货,但规模还在爬坡摩尔线程、沐曦、燧原、天数智芯、壁仞、登临、瀚博、爱芯、黑芝麻、算能、景嘉微产品真实存在,但市场声量和开发者基数还撑不起生态
T2:送样验证、量产前夜已回片或者小批量送样,还没形成稳定收入后摩智能、亿铸科技、中昊芯英、太初电子、时擎科技、奕斯伟计算、亿智电子技术路线有亮点,但需要时间验证
IP/定制服务不直接卖标准芯片,以授权和SoC定制为主芯原股份、芯动科技、国芯科技活得挺稳,但市场体量受客户项目数约束

这个分层最大的意义是拉长了预期。很多人在新闻里看到的"国产AI芯片厂商"其实只在T2,离规模化交付还有一两年的路。真正能作为主力采购对象的,只有T0和T1里的一部分。

2.2 几个典型厂商的真实位置

昇腾是绕不开的存在,它的优势不是某一颗芯片,而是整机、框架、编译器生态的完整度。CANN工具链这几年迭代速度很快,PyTorch适配也不再是老大难。实际用下来,真正拉开差距的是集群场景:单卡性能容易对标,但多卡互联和集合通信性能需要调试经验,不是开箱即满血。

寒武纪从IP授权一路做到云端训练芯片,思元系列在多个智算中心批量部署,盈利曲线也证明了客户认可度。但我个人感觉它的软件栈偏"封闭的稳",对外部开源社区的跟进速度有时慢半拍,适合把你的模型稳定跑在某个固定版本上,不太适合天天追新。

海光信息走的是GPGPU路线,DCU对CUDA生态的兼容性是几家里做得最顺滑的。很多做大模型预训练和微调的团队,迁移成本最低的往往就是海光,因为它底层指令集和ROCm有天然的亲近关系。这也是DCU在招标里频繁出现的原因:采购方可以理直气壮地说"我用了CUDA兼容生态"。

地平线在车规市场是另一种打法,征程系列结合了硬件、工具链、功能安全方案,不单纯卖芯片,更像是提供智能驾驶计算平台。车载芯片的验证周期比云端长得多,但一旦定点,合作关系往往持续好几年。

摩尔线程、沐曦、燧原这类公司在通用加速卡上各有亮点,产品指标发布得都很漂亮。但说实话,它们的命运取决于两个很基础的问题:你愿意花多少人力做适配,你能否接受bug修复节奏。大模型框架每天都在变,如果厂商的算子库跟不上上游,你的模型就只能锁在一个旧版本上。

2.3 真正的差距不在芯片,在软件和售后

同一颗芯片,由不同水平的工程师来调,性能可以差出一倍。这个现象在国产卡上体现得尤其明显。硬指标比如INT8算力、FP16密度、显存带宽,大家都能做上去;但实际跑一个包含几十个算子的大模型,算子是否覆盖、编译器是否生成了高效代码、显存分配策略是否合理,这些才是决定训练速度和推理吞吐的关键。

我在实际项目里遇到过很典型的情况:某个国产加速卡跑ResNet类模型,官方算子库全部覆盖,速度还行;换到最新的Transformer结构后,有一部分自定义算子落回了CPU兜底,导致GPU利用率忽高忽低。厂商工程师来了,先查版本,再打补丁,最后建议我们锁框架版本。不能说厂商不努力,但生态成熟度确实需要时间补课。

另一个被低估的是售后响应。头部厂商因为客户多、驻场工程师多,遇到问题基本能当天响应;中小厂商很多时候只能邮件来回。这在规模化部署时是硬伤,因为客户不会把你的"技术文档"放在第一位,他们只需要"出了问题有人管"。

3. 剥开一颗国产AI芯片:架构思路、工艺选择与量产取舍

聊完梯队,再看芯片本身。为什么有的公司做出来的芯片算力极高却卖不好,有的算力平平却持续出货?答案往往隐藏在架构取舍里。

3.1 三条主流技术路线没有绝对好坏

通用GPGPU思路的代表是海光、摩尔线程、沐曦、天数智芯。它们本质上就是做一个接近CUDA编程模型、可编程性强的通用计算引擎。好处是软件生态兼容成本低,什么模型来了都能跑,适合云端各种不确定负载;代价是面积大、功耗高,调度复杂场景要仔细优化。

DSA(领域专用架构)思路的代表是昇腾的达芬奇架构、寒武纪的MLU、地平线的BPU。它们把大量芯片面积铺在矩阵运算单元上,针对CNN、Transformer这类固定算子做极致优化。效率和能效比确实高,但灵活性打折。比如某个新出的模型如果引入了一种全新的算子形态,DSA芯片的适配时间往往比通用GPU长。

存算一体路线则是另辟蹊径,后摩智能、亿铸科技都在做,把计算放进存储单元,减少数据搬运,理论能效比很诱人。但目前整个生态还在早期,编译器和精度处理都还不够成熟,更适合功耗严苛的特定场景,距离大规模通用计算还有距离。

打个比方:GPGPU是全能型多面手,DSA是专线加工流水线,存算一体是试图把仓库直接改成车间。没有谁绝对优于谁,只有合不合适。

3.2 制程、存储和互联是三个隐藏卡点

云端AI芯片普遍追逐先进工艺,因为算力和功耗受晶体管密度限制。但先进工艺流片成本高、回片周期长、良率爬坡慢,不是所有公司都烧得起。这也是很多边缘端芯片选择12nm、14nm甚至28nm成熟工艺的原因——端侧对算力没那么执着,但对成本、功耗和稳定供货极其敏感。

存储方面,HBM给了大模型训练足够的带宽,但价格高,供货紧张。边缘芯片普遍用LPDDR,成本可控,但大模型推理中显存带宽往往才是瓶颈,算力堆得再高,带宽跟不上也是白搭。这个点经常被发布会PPT忽略。

互联是最容易被低估的环节。单卡好看没有用,训练大模型至少要一两百张卡。卡间通信走私有互联协议,还是走RoCE网卡,集群加速比完全是两个故事。我见过一个8卡服务器,芯片的理论算力很足,但卡间互联带宽不够,实际训练加速比只有4.8倍,而不是理想的7倍以上。选型时一定要问清楚:集群规模做到多少,加速比曲线还线不线性。

3.3 从流片回片到量产,中间隔着一整年

芯片公司常发"点亮成功"的新闻,但"点亮"只是第一步。一颗AI芯片从回片到真正能稳定卖,通常还要经历以下环节:

  • Bring-up:电源、时钟、复位、基础外设能不能跑通;
  • 功能验证:计算单元、存储控制器、编解码模块逐一测试;
  • 驱动开发和运行时:让上层软件看得到、管得住硬件;
  • 算子库移植:把PyTorch里常用的算子一个个验证优化;
  • 板卡级测试:散热、功耗、可靠性、老化;
  • 量产测试和良率爬坡:DFT覆盖率不足会导致出厂坏片比例高。

这一段路走下来普遍在12到18个月,车规芯片还会额外砸进功能安全认证的时间。所以我不太看发布会时间,更想看"量产时间"和"客户拿货时间"。如果有人告诉你芯都快量产了,但连官网上都找不到批量采购入口,那大概率还在送样阶段。

4. 真正的胜负手:编译器、算子库与工具链生态

芯片做出来只是地基,决定用户愿不愿意用的,是跑在上面的软件栈。国产AI芯片和英伟达之间最大的差距,从来不是晶体管,而是开发者手里那套工具链好不好用。

4.1 一套完整的软件栈到底包含什么

从下往上数,大致是这样的结构:

层级作用典型问题
内核驱动CPU访问显存、DMA、中断稳定性差会导致训练半夜崩掉
运行时设备管理、显存分配、命令下发API设计反人类会增加开发成本
编译器把PyTorch的IR翻译成芯片指令代码生成质量直接决定性能
算子库提供常用算子的高性能实现单算子缺失会让人发疯
框架适配让PyTorch/PaddlePaddle等跑在上面版本一升级就出现兼容性裂缝
推理引擎支持vLLM、TensorRT等加速大模型推理吞吐受限于此

任何一个环节出问题,用户体感都是"这芯片不行"。很多时候不是芯片不行,是某个算子没优化到位,结果整个模型性能被拖垮。

4.2 各家工具链成熟度的横向盘点

我自己接触下来,大致排个序:

厂商软件栈名称成熟度观察
华为昇腾CANN算子丰富,工具多,学习曲线陡,需要专门的人力投入
寒武纪Neuware稳定封闭,适合锁定版本跑的团队
海光DCU软件栈(ROCm生态)CUDA兼容最好,迁移成本低,但工具链迭代受上游影响
昆仑芯PaddlePaddle/pytorch适配因百度内部业务打磨,框架适配很快
地平线地平线芯片工具链车规场景工具完善,嵌入式开发体验好
摩尔线程MUSACUDA兼容路线,编译器在快速补课
沐曦MXMACA迭代快,但算子库覆盖仍需积累
燧原TopsTools偏框架一体化,对外部开发者开放度在提升
登临GPUware场景化工具较多,适合特定推理任务

这份表带有明显的个人使用色彩,仅供参考。但有一个规律是通用的:软件栈成熟度越高的厂商,越敢于开放文档和工具;还在补课阶段的厂商,往往会显得保守,因为怕暴露短板。

4.3 兼容CUDA只是入场券,不是免死金牌

现在和不讨论CUDA兼容几乎没法正常选型。各家做法分三种:

第一种是转译层式兼容,比如MUSA兼容CUDA代码。它的优点是老代码改动小,但运行时会有额外开销,复杂的图执行模式容易出幺蛾子。第二种是底层指令集接近,比如海光DCU,本质上就是向着GCN生态靠拢,所以很多代码直接能跑,性能损失小。第三种是彻底自研,只开放标准接口,比如昇腾和寒武纪,自研程度高,但意味着你所有要跑的算子都需要它们在库里补上。

我的经验是:如果只是跑个benchmark demo,转译层足够;如果要做大规模训练和长期迭代,最好选底层兼容或者自研库覆盖足够的平台。不然每个新模型都要你先写算子,心态迟早崩。

4.4 一个真实的调优案例:为什么算子融合这么重要

去年做大模型推理适配,遇到一个很典型的问题:用国产卡跑LLaMA类模型,prefill阶段显存带宽打满,但要命的不是矩阵乘法,而是KVCache的存储格式转换。PyTorch默认的KVCache更新方式逐层调用小算子,每次都在HBM上反复读写。把KVCache更新、衰减和浅层融合成一个大kernel后,整体生成吞吐提升了30%以上。

这就是算子融合的威力。它不是把代码改快一点,而是改变数据搬运的方式。芯片厂商的工具链里如果内置了这些融合模板,使用者就省力;如果全靠自己写,那结果就是国内社区里大量技术博客都在教你怎么手写国产卡算子。这不叫生态好,这叫用户被逼成了供应商。

5. 落地场景里谁在真买单:从智算中心到车端边缘的客户验证

芯片最终要看采购单。我给你盘一下目前30家里真正形成规模化收入的几个场景,以及用户反馈里最常见的坑。

5.1 数据中心与政企智算中心:大模型训练和推理的试验田

昇腾、寒武纪、海光、昆仑芯这四家在数据中心场景存在感最强。实际采购中,政企智算中心往往以"总算力"为标的,某一两个厂商能进短名单就已经是巨大优势。很多整机厂会把国产卡和英伟达卡混布在同一集群里,配合调度系统实现异构算力统一池化。这种模式下,客户更关心的是你的卡支不支持主流大模型框架,能不能和已有容器平台无缝对接。

真实反馈里出现最多的两类问题:一是框架版本适配滞后,二是RDMA网络配置复杂。跑大模型预训练离不开高性能网络,如果厂商的集合通信库做得不够健壮,训练作业运行到一半就断连重连,体验会很差。

5.2 智能驾驶:车规芯片的慢生意

地平线和黑芝麻在车规市场已经跑出不少定点项目。智能驾驶对芯片的要求和云端完全不同:功耗限制严苛、安全性要求高、产品生命周期长,一颗芯片从定点到量产上车可能横跨四五年。行业里的经验是,车规芯片卖的不是算力,是安全信任和工具链成熟度。技术再先进,功能安全认证没下来,车企也不敢用。

地平线的征程系列之所以能拿单,除了BPU架构本身能效比不错,更关键的是它有一个完整的工具链和参考方案,从摄像头接入到模型部署,一整套东西都给你搭好了。车企不需要自己养一个大型AI基础设施团队。这一点对任何想进车规的芯片厂商都有参考价值:要让客户少干活,而不是买回一个半成品。

5.3 边缘计算与安防:低调但真实走量

瑞芯微、晶晨、全志、爱芯元智、时擎这些边缘SoC厂商,在公共视野里热度不高,但出货量往往最可观。IPC摄像头、门禁、扫地机、翻译笔、智能音箱里都藏着一颗边缘AI SoC。这类芯片的竞争点是单位成本下的充分算力、AI-ISP画质增强能力和裸片成本,而不是"最强算力"。

爱芯元智主打的AI-ISP思路很有意思,用NPU配合ISP做降噪和HDR,能在低照度下提升画质。这在安防领域是刚需,因为夜间场景占监控很大比例。某种程度上,边缘芯片的AI能力是悄悄在ISP里落地的,用户感知不到"AI芯片"的存在,但体验确实变好了。

5.4 选型时容易掉进去的三个坑

第一坑是只看单卡算力不看实际吞吐。厂商宣传的TOPS是理论峰值,实际跑到50%就算优秀。正确做法是拿自己的模型在目标卡上跑一遍,对比FP16和INT8的真实吞吐和时延。

第二坑是低估了适配人力成本。有些卡采购便宜,但团队要为一个算子适配花三周人力,算上工程师成本,总拥有成本未必低。我一直建议选型时把"试着自己写一个自定义算子"作为测试项,谁家文档全、示例清楚、编译器报错有指导性,谁家就值得优先考虑。

第三坑是忽略售后SLA。芯片不像软件可以随时重启,大规模集群一旦卡死,工程师如果不能在几个小时内介入,损失是按分钟算的。采购谈判时一定要把"驻场支持""备件保障""故障响应时间"这些写进合同,而不是只看报价单。

6. 2025年的几个关键变量:产能、生态统一与选型策略

把视角拉回当下,30家厂商接下来一年要面对的问题反而更聚焦:先进工艺产能能不能排上队、生态能不能收敛、商业模式能不能跑通。这几个变量比任何一家芯片的纸面参数都重要。

6.1 产能与先进工艺仍是硬约束

云端大芯片必须靠先进制程,但先进工艺产能对初创公司并不友好。流片费用动辄数千万起,良率爬坡还要额外消耗时间和金钱。边缘端则相反,成熟工艺产能富余,价格战打得更凶。所以未来一年,云端格局可能继续向头部集中,边缘端则会出现更多低价竞争和同质化。

对中小厂商来说,与其在7nm以下硬碰硬,不如想想怎么在12nm/14nm上通过架构设计把能效做出来。芯片行业不是只有最先进工艺一条路,成熟工艺上的低成本高能效设计同样有市场。

6.2 生态会不会走向统一?我的判断是不会

很多人在期待一个"国产CUDA"出现,把各家统一起来。但现实是,各家工具链内部利益盘根错节,统一接口的尝试需要巨大的投入和强大的上游话语权,短期内不大可能。更大概率是出现两层结构:底层指令集各自为战,上层通过标准接口和容器化调度做松耦合统一。反正用户跑模型用的是PyTorch,中间编译器把IR映射到哪家硬件,对上层透明就好。

这种局面下,真正能跑出来的厂商一定具备两个特质:一是算子库覆盖广且持续跟上新模型,二是编译器生成的代码质量接近手写优化水平。第一点靠人力堆,第二点靠时间磨。

6.3 三种商业模式,风险收益差异很大

卖芯片/加速卡是传统模式,毛利高但竞争激烈,客户要求你有完整的售后和生态。卖整机/集群是带服务溢价的路子,适合有资源调度的厂商,但对资金链和管理能力要求更高。卖算力/云服务是转型方向,把芯片变成订阅算力,收入稳定但同样要面对来自IDC和云厂商的竞争。

芯原、芯动、国芯这种IP授权模式反而活得稳,它们不承担芯片量产风险,赚的是设计服务和技术授权费,只是天花板明显。厂商在选商业模式时,本质上是在选风险偏好和资源禀赋。

6.4 给你一份可复用的选型评估清单

如果现在有人拿着一张国产AI芯片的规格表来问我,我通常不会马上给结论,而是建议他走一遍这个流程:

  1. 拿自己的真实模型跑一遍,看基准吞吐和时延是否达标;
  2. 做个多卡扩展性测试,看加速比有没有严重偏离线性;
  3. 上手写一个自定义算子,感受编译器易用性和文档完整度;
  4. 模拟故障工单,看厂商技术支持的响应速度;
  5. 对比总拥有成本:单卡价格之外,还要算适配人力、维护人天、停机损失。

这套东西走完,你对某家芯片是否"能用"的判断基本就不会被发布会忽悠了。

说点个人体会。这几年从各种渠道看了不少国产AI芯片,我最深的感受是:芯片设计能力在国内已经不算稀缺,真正稀缺的是愿意十年如一日打磨工具链和用户生态的团队。流片成功只是一块里程碑,让开发者愿意在晚上十一点还为你debug,才是更难的胜利。如果只看"谁发布了最强芯片",名单每年都会变;如果看"谁让用户用得最省心",能留下的才是真正值得长期合作的厂商。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询