Mamba-2 / SSD 状态空间对偶与高效长序列建模
2026/7/29 16:05:37 网站建设 项目流程

一、开篇:Transformers are SSMs

2024 年 5 月,FlashAttention 的作者 Tri Dao 与 Mamba 的作者 Albert Gu 联手发表了一篇标题极具挑衅性的论文:

《Transformers are SSMs: Generalized Models and Efficient Algorithms Through Structured State Space Duality》

“Transformer 就是 SSM”——这个标题乍看像是标题党。Transformer 靠注意力、O ( N 2 ) O(N^2)O(N

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询