摘要:RISC-V的开放架构使其成为AI加速器定制的理想平台。MIPS发布S8200 RISC-V NPU,采用“软件优先”方法支持芯片流片前的模型优化。国芯科技发布深度融合自研DPNPU AI加速引擎与玄铁高性能RISC-V CPU的芯片设计平台。本文从协同设计方法、自定义指令和工具链三个维度,分析RISC-V+AI加速器的工程实践。
一、为什么RISC-V适合AI加速器
RISC-V的开放架构使其成为AI加速器定制的理想平台。
可定制性。RISC-V允许设计者添加自定义指令,特别适合专用控制算法和AI算子的硬件加速。FOC算法中的关键计算步骤可以通过自定义指令加速,AI推理中的注意力机制和卷积运算同样可以通过自定义指令优化。
模块化设计。RISC-V的模块化设计允许实施者选择最小化基础架构,添加向量扩展(RVV)、矩阵扩展或自定义NPU指令。这种灵活性使其可以针对具体AI工作负载优化。
无授权费。RISC-V免专利费的开放架构,使芯片设计者可以将资源集中投入到AI加速器的差异化设计上,而不是支付昂贵的授权费用。
MIPS发布的S8200 RISC-V NPU专为边缘Transformer和智能体语言AI模型设计,采用“软件优先”方法。客户可在MIPS Atlas Explorer虚拟平台上启动模型优化,在芯片流片前便进行软硬件协同设计。
二、协同设计方法:软件优先与硬件优先
RISC-V+AI加速器的协同设计有两种方法。
软件优先。先定义AI工作负载和模型架构,再设计与之匹配的硬件加速器。MIPS的Atlas Explorer虚拟平台使客户能够在芯片流片前进行模型优化,实现软硬件协同设计。这种方法的优势是可以针对具体模型优化硬件,避免过度设计。
硬件优先。先定义硬件加速器的架构和指令集,再开发与之匹配的模型和编译器。这种方法的优势是硬件平台可以支持多种模型,灵活性更高。国芯科技的“无剑芯片设计平台定制版”采用这种思路,深度融合自研DPNPU AI加速引擎与玄铁高性能RISC-V CPU。
协同迭代。实际工程中,软硬件设计是迭代进行的。模型架构影响硬件设计,硬件约束反过来影响模型架构。RISC-V的开放架构使这种迭代更加灵活。
三、自定义指令与NPU的协同
RISC-V自定义指令与NPU的协同是协同设计的核心。
自定义指令的应用。RISC-V允许设计者添加自定义指令。在AI推理中,自定义指令可以加速特定的算子——如卷积、矩阵乘法、激活函数和量化操作。
NPU的硬件加速。NPU通过专用硬件阵列(如乘加阵列)加速神经网络推理。NPU的算力通常在0.5到50 TOPS之间,取决于目标场景。
自定义指令与NPU的分工。自定义指令适合加速控制流和轻量级算子,NPU适合加速大规模的矩阵运算。两者的协同可以通过编译器自动完成——编译器将适合NPU的算子映射到NPU上,将适合自定义指令的算子映射到CPU上。
RVV向量扩展。RISC-V的向量扩展(RVV)为AI推理提供了灵活的加速方案。RVV支持可变长度的向量运算,可以适应不同的AI工作负载。SiFive的第二代智能系列(XM系列)计划于2026年中发布,支持1024位向量长度,专门加速基于Transformer的模型。
四、工具链:从模型到芯片
RISC-V+AI加速器的工具链需要覆盖从模型到芯片的完整流程。
模型转换。模型从训练框架(TensorFlow、PyTorch)导出后,需要转换为目标硬件可执行的格式。ONNX是常见的中间格式,芯片厂商的转换工具将ONNX转换为NPU可执行的二进制。
算子映射。编译器将模型中的算子映射到NPU或CPU上。支持NPU的算子优先映射到NPU,不支持的算子回退到CPU。算子映射的效率直接影响整体推理性能。
自定义指令的编译器支持。自定义指令需要编译器的支持。GCC和LLVM的RISC-V后端支持添加自定义指令,但需要芯片厂商提供指令定义和编译器补丁。
虚拟平台。MIPS的Atlas Explorer虚拟平台使客户能够在芯片流片前进行模型优化。这种虚拟平台可以模拟NPU的行为,帮助客户在硬件可用之前优化模型和编译器。
五、对嵌入式工程师的影响
第一,理解RISC-V自定义指令的设计方法。自定义指令是RISC-V+AI加速器的核心差异化优势。嵌入式工程师需要理解如何定义和实现自定义指令。
第二,掌握NPU编程模型。不同厂商的NPU有不同的编程接口和工具链。嵌入式工程师需要掌握至少一种NPU的模型部署流程。
第三,理解RVV向量扩展。RVV是RISC-V的标准化向量扩展,为AI推理提供了灵活的加速方案。理解RVV的编程模型和优化方法,是RISC-V AI开发的核心技能。
第四,关注软硬件协同设计流程。RISC-V+AI加速器的开发需要软硬件协同设计。嵌入式工程师需要理解模型架构、硬件约束和编译器优化的关系。
六、总结
RISC-V+AI加速器的软硬件协同设计正在从概念走向产品。MIPS的S8200 NPU和国芯科技的DPNPU+玄铁平台,代表了两种不同的协同设计方法。
对于嵌入式工程师而言,RISC-V+AI加速器意味着新的技能需求:自定义指令设计、NPU编程模型、RVV向量扩展和软硬件协同设计。这些技能正在成为RISC-V AI开发的核心竞争力。