企业官网建设流程全解析

6大算子怎么选？CANNBot-DSL 能力地图：matmul、flash_attn、flash_kda 适用场景对比清单

【免费下载链接】cannbot-dsl基于 CANNBot-DSL 的 Ascend NPU 复杂算子示例集合。项目地址: https://gitcode.com/cann/cannbot-dsl

CANNBot-DSL是面向 Ascend NPU 的复杂算子示例集合，基于 CANNBot 自动生成 matmul、flash_attn、flash_kda、rms_norm 等 6 大算子实现，覆盖 LLM 推理、3D 感知、点云处理等主流场景。本文用一张能力地图 + 对比清单，帮你快速判断该选哪个算子、该看哪个示例。

一、CANNBot-DSL 是什么？一分钟看懂

• 定位：基于 CANNBot-DSL 生成的 Ascend NPU 复杂算子示例集合，替代传统手写 AscendC 的开发方式
• 目标架构：NPU ARCH 3510（Ascend 950PR / Ascend 950DT）
• 目录结构：

├── samples/ # 6 个算子实现与使用说明 ├── test/ # 各算子精度测试（pytest） ├── figures/ # 性能对比图 └── README.md # 算子列表总览

项目总览见README.md，每个算子目录下都配有独立的README.md（参数说明 + 快速开始 + 精度测试方法），非常适合新手照着跑。

二、6大算子能力地图总览

💡 一句话概括：LLM 场景看前四个，3D/点云感知场景看后两个。

三、核心算子适用场景对比清单

1️⃣ matmul：通用矩阵乘，性能对标 CANN 内置模板

适用场景：一切需要高性能矩阵乘的推理链路。支持自适应滑动窗口多核调度 + L1/L0 ping-pong 流水线，L2 cache 按矩阵复用情况自适应开关。

图：matmul 算子与 CANN 内置 matmul 基础模板在部分用例上的性能对比

2️⃣ flash_attn：LLM 注意力算子，覆盖 prefill / decode / MTP

适用场景：标准 Transformer 注意力计算O = softmax(QK^T·scale)V，支持全注意力（mask_mode=0）与因果注意力（mask_mode=3），支持 GQA、BNSD/BSND 双 layout。

图：FlashAttn（CANNBot-DSL）与 FIA（CANN 内置）在 12 个典型 case 上的性能对比

📌 精度测试覆盖 12 个代表性 case（2 种 dtype × 2 种 layout × MHA/GQA × prefill/decode/MTP），详见test/flash_attn/test_flash_attn.py。

3️⃣ flash_kda：Kimi Delta Attention，长序列线性注意力利器

适用场景：Kimi Delta Attention 的prefill 融合计算。一个算子内完成 gate/beta 激活、Q/K 的 L2 归一化和完整 Chunk KDA 计算，按 64-token chunk 递推状态，长序列延迟显著优于普通 GPU 实现。

图：FlashKDA（CANNBot-DSL）与 H800 实现在 12 个典型配置（S=8K~64K）上的平均延迟对比

📌 约束提醒：序列长度 S 须为 64 的整数倍，head 维度 Dk = Dv = 128，支持 GQA。

4️⃣ rms_norm：一天内自动生成调优的归一化算子

适用场景：Transformer 归一化层，bf16/float16/float32 全覆盖。亮点是CANNBot + CANNBot-DSL 在 1 天内自动生成并完成调优，性能对标 CANN 内置实现：

图：rms_norm 算子与 CANN 内置实现的部分用例性能对比

5️⃣ voxel_conv：自动驾驶 3D 感知的体素卷积

适用场景：VoxelNet 等点云 3D 目标检测网络中的 2D 卷积中间层。通过 DSL 的 Channel + Load3D 显式表达卷积搬运链路，支持 stride/padding/dilation/groups 全参数。

📄 详细背景与参数说明见samples/voxel_conv/README.md。

6️⃣ pointnet_sa：点云 Set Abstraction 特征聚合

适用场景：PointNet++ 点云层次化特征学习中的 SA 层（shared MLP + max-pooling），实现"逐点变换 + 对称聚合"，对点云排列顺序不变。

📄 详细背景与参数说明见samples/pointnet_sa/README.md。

四、30秒选型清单：我该用哪个？

• ✅做 LLM 推理的注意力计算→flash_attn（标准注意力）/flash_kda（Delta 线性注意力长序列）
• ✅需要极致矩阵乘性能→matmul（滑动窗口多核调度 + 自适应 L2）
• ✅Transformer 归一化层→rms_norm
• ✅自动驾驶 LiDAR 体素特征提取→voxel_conv
• ✅点云 3D 特征聚合→pointnet_sa
• ✅学习 CANNBot-DSL 编程模型→ 从matmul入手最简单，再进阶到voxel_conv看 Channel + Load3D 显式数据流

五、快速上手：安装依赖与精度验证

1. 安装依赖（脚本位于仓库根目录install_deps.sh）：

./install_deps.sh

2. 跑精度测试（pytest 驱动，需在 NPU 环境）：

pytest test/matmul/test_matmul.py -v # 矩阵乘 pytest test/flash_attn/test_flash_attn.py -v # Flash Attention pytest -q test/flash_kda/test_flash_kda.py # FlashKDA

测试配置集中在test/test_config.yaml，公共 fixture 见test/conftest.py；CI 流程参考scripts/ci/run_tests.sh。

六、获取完整代码

如果需要在 Ascend 950 环境实践这些算子，可克隆完整仓库：

git clone https://gitcode.com/cann/cannbot-dsl

⚠️ 注意：全部算子面向NPU ARCH 3510（Ascend 950PR / Ascend 950DT），使用前请确认硬件与 CANN 版本匹配。

小结：CANNBot-DSL 用 6 个算子示例，覆盖了从 LLM 推理（matmul / flash_attn / flash_kda / rms_norm）到 3D 感知（voxel_conv / pointnet_sa）的完整能力地图。新手建议从matmul起步，结合各算子目录下的README.md与figures/中的性能对比图，快速建立对 Ascend NPU 复杂算子开发的整体认知。

【免费下载链接】cannbot-dsl基于 CANNBot-DSL 的 Ascend NPU 复杂算子示例集合。项目地址: https://gitcode.com/cann/cannbot-dsl