- 大模型
- 基础模型
- 人工智能
- 多模态
- AI Agent
- 本地部署
【免费下载链接】Step-5-Preview
Step 5 Preview 是阶跃星辰面向智能体工作打造的旗舰模型。该模型在软件工程和专业知识工作领域均展现出前沿级性能,尤其在金融领域表现突出。 Step 5 Preview 是一个稀疏混合专家(MoE)模型,总参数量为 600B,激活参数量为 27B。它支持高达 100 万 token 的上下文长度,并可接收文本、图像和视频输入,能够在复杂任务中实现持续推理与工具调用。
Step-5-Preview是阶跃星辰(StepFun)推出的旗舰级 AI 智能体大模型,专为软件工程与专业知识工作打造,在金融领域表现尤为突出。它采用 600B 总参数的稀疏混合专家(MoE)架构,每个 token 仅激活 27B 参数,支持最高100 万 token的上下文长度,可接收文本、图像和视频输入,能在复杂任务中持续推理并自主调用工具。
本文将从普通用户视角,带你快速看懂这款智能体大模型的五大核心能力、性能表现、部署方式与仓库结构,帮助你判断它是否适合你的工作流。
🧠 Step-5-Preview 是什么:一句话了解旗舰智能体大模型
Step-5-Preview 的定位是"面向智能体工作(Agentic Work)的旗舰模型":它不只是"回答问题",而是能像一位靠谱的工程师/分析师那样,长时间自主地规划、执行、验证和修正任务。
核心规格速览(来源:README.md):
| 规格 | 参数 |
|---|---|
| 架构 | 稀疏混合专家(Sparse MoE) |
| 总参数 | 600B |
| 激活参数 | 27B(每 token 实际参与计算) |
| 上下文窗口 | 最高 1M tokens(输入+输出) |
| 最大输出 | 最高 1M tokens |
| 输入模态 | 文本、图像、视频 |
| 输出模态 | 文本 |
🚀 五大核心能力详解
能力一 | 软件工程:仓库级代码开发与前端视觉
这是 Step-5-Preview 的看家本领。它支持仓库级(repository-level)软件开发:
- 🗂️ 在大型代码库中"导航",跨文件协调修改;
- 🖥️ 前端与视觉开发,以及面向设备的编程;
- 🧪 能自己运行代码、验证结果,并根据反馈持续迭代。
官方 DeepSWE v1.1 评测即采用 SWE-agent 智能体框架完成真实软件工程任务,覆盖从读懂 Issue 到提交补丁的完整闭环。
能力二 | 长时程智能体执行:工具调用与自主迭代
"长时程(Long-Horizon)"意味着模型可以跨几十个甚至上百个步骤持续工作:反复调用工具 → 执行 → 验证 → 修正,并始终利用长上下文中的历史信息。
这一能力由模型层的原生支持保障——chat_template.jinja 中内置了标准 tool call 格式与think思考块,配合推理服务端的--tool-call-parser step5与--reasoning-parser step5解析器,让工具调用和推理过程可以被稳定解析、多轮衔接。
能力三 | 100 万 token 超长上下文:一次读完整套文档
1M 级上下文是"智能体可靠工作"的底座:整套代码库、数十份合同、一整年的财报,都可以一次性装进"工作记忆"。
从 config.json 可以看到支撑长上下文的技术设计:
- 92 层解码器采用混合注意力:多数层使用滑动窗口注意力(窗口 512),每 4 层一次全局注意力;
- 全局注意力层叠加DSA 稀疏注意力(topk 512 相关区域检索),把长序列的注意力成本控制在可部署范围;
- RoPE 位置编码扩展至
max_position_embeddings: 1048576。
对普通用户来说,这意味着:不用再手动分段总结,模型自己就能"读完全卷再下结论"。
能力四 | 多模态理解:文本、图像、视频一站式输入
Step-5-Preview 是多模态模型(model_type: step5_vl),内置名为perception_encoder的视觉编码器(47 层 Vision Transformer、宽度 1536),实现代码见 inference/vision_encoder.py。
典型的多模态智能体场景:
- 📸 分析截图、UI 设计稿、报错弹窗截图并定位问题;
- 📈 解读图表与 K 线、报表图片中的关键数据;
- 🎬 理解视频内容并生成结构化分析。
图片特征在 prefill 阶段注入文本解码器(728×728 总览图约产生 169 个视觉 token),细节机制见 inference/model.py。
能力五 | 金融与专业知识分析:从数据到结构化报告
官方特别强调模型在金融领域的突出表现:把定量推理(quantitative reasoning)与财报、数据、附件文档的交叉分析结合起来。
在更广泛的专业知识工作中,它能把"研究 + 多模态理解 + 工具调用"组合起来:分析长文档、图表、截图、图像和视频,最终产出结构化的报告与分析。对分析师、研究员和财务从业者来说,这是从"问答工具"到"数字员工"的跨越。
📊 性能表现:Step-5-Preview 基准测试实力如何
官方性能覆盖四大板块:编程(Coding)、智能体任务(Agentic)、专业知识工作(Professional Knowledge Work)、金融(Finance)。
| 评测 | 说明 |
|---|---|
| DeepSWE v1.1 | 基于 SWE-agent 框架的真实软件工程智能体评测 |
| GDPval-AA v2.1 | 第三方机构 Artificial Analysis 的专业工作评测 |
几点使用提示(来自 README.md 的 Evaluation Notes):
- 官方结果均在High 推理档位下取得;
- 推荐采样参数:
temperature=1.0、top_p=0.95、top_k=0; - 评测方法、背景与长时程案例研究详见官方模型页(仓库 Resources 一节有索引)。
⚡️ 架构速览:600B MoE 模型为何"大而快"
很多人会问:600B 参数岂不是跑不动?关键在于稀疏激活:
- 模型包含352 个路由专家,每个 token 只由 router 选出8 个专家(
moe_top_k: 8)参与计算,实际激活参数约 27B; - 专家权重支持FP8(e4m3)量化,视觉塔等敏感模块保留 BF16,显存占用大幅下降;
- 张量并行(TP)+ 专家并行(EP)可把 352 个专家均匀分布到多卡——如 TP=EP=8 时,每卡仅承载 44 个专家。
💡 打个比方:它像一个 600 人的专家团队,但每个问题只召集最相关的 8 位专家会诊——既有专家规模,又有小模型的响应成本。
🛠️ 如何部署 Step-5-Preview:三种主流方案快速上手
官方支持vLLM / SGLang / Transformers三条路径。服务化部署(vLLM、SGLang)提供 OpenAI 兼容 API;Transformers 路径适合离线生成。
部署配置速查表(来源:README.md):
| 框架 | 精度 | 参考硬件 |
|---|---|---|
| vLLM | FP8 | 4×B300 或 8×H200(单节点) |
| vLLM | BF16 | 8×B300 或 16×H200(双节点) |
| Transformers | FP8 | 8×H200(单节点,离线) |
| SGLang | FP8 | 4×B300 或 8×H200(单节点) |
方案要点:
- vLLM:拉取官方镜像
vllm/vllm-openai:step-5-preview后启动服务,端口 18000,模型名step5; - SGLang:拉取
lmsysorg/sglang:step-5-preview镜像,端口 30000,支持 EAGLE 多步投机解码; - Transformers 离线推理:仓库自带独立推理栈(inference/README.zh.md),流程为:先用 inference/convert.py 把权重转换为按卡分片,再用 inference/generate.py 启动
torchrun生成。核心算子(稀疏注意力、FP8 专家 GEMM)在 inference/kernel.py 中以 Triton/CUDA 实现,依赖版本见 inference/requirements.txt。
⚠️ 提示:1M 上下文的上限取决于 KV cache 余量,显存不足时可降低
--max-model-len或并发数。
💬 快速体验:发送第一个 Step-5-Preview 请求
服务启动后,用 OpenAI 兼容接口发一条请求即可:
curl http://127.0.0.1:18000/v1/chat/completions \ --header 'Content-Type: application/json' \ --data '{ "model": "step5", "messages": [{"role": "user", "content": "Hello!"}], "max_tokens": 4096, "stream": true }'如果你需要研究或微调配套资产,也可以克隆代码仓库:
git clone https://gitcode.com/StepFun/Step-5-Preview📁 仓库文件导航:从文档到源码
| 文件 | 说明 |
|---|---|
| README.md | 模型介绍、能力、性能与部署总览 |
| inference/README.zh.md | 中文离线推理指南(含术语表) |
| config.json | 模型架构配置(MoE、注意力、视觉塔) |
| chat_template.jinja | 对话模板:工具调用 + 思考块 |
| inference/convert.py | 权重分片转换工具 |
| inference/generate.py | 文本/图文贪心生成入口 |
| inference/model.py | 解码层、TP/EP 执行与图像特征注入 |
| inference/kernel.py | DSA 稀疏注意力、FP8 GEMM 等算子 |
| inference/vision_encoder.py | 多模态视觉编码器 |
| LICENSE.txt | 许可证全文 |
⚖️ 许可证与使用条款
Step-5-Preview 采用StepFun Model License 1.0许可,属于 Apache-2.0 风格许可证,附带针对模型使用、修改和分发的署名与商用附加条款(详见 LICENSE.txt 与 LICENSE-CN.txt)。商用前请务必阅读完整条款;仓库内如标注其他许可的第三方材料,按其各自许可执行。
小结:Step-5-Preview 把"600B 专家规模 + 27B 激活成本 + 1M 上下文 + 原生工具调用 + 多模态理解"组合成一台面向软件工程和金融分析的智能体引擎。如果你正需要一个能长时间自主干活、跨文件改代码、跨文档做分析的 AI 同事,它就是目前开源阵营中值得重点评估的选择。
- 大模型
- 基础模型
- 人工智能
- 多模态
- AI Agent
- 本地部署
【免费下载链接】Step-5-Preview
Step 5 Preview 是阶跃星辰面向智能体工作打造的旗舰模型。该模型在软件工程和专业知识工作领域均展现出前沿级性能,尤其在金融领域表现突出。 Step 5 Preview 是一个稀疏混合专家(MoE)模型,总参数量为 600B,激活参数量为 27B。它支持高达 100 万 token 的上下文长度,并可接收文本、图像和视频输入,能够在复杂任务中实现持续推理与工具调用。
相关推荐
FinRobot金融AI智能体实战指南:10个核心模块构建智能金融分析系统
FinRobot金融AI智能体实战指南:10个核心模块构建智能金融分析系统 FinRobot是一个开源的AI智能体平台,专门为金融应用场景设计,利用大型语言模型
AI Agent金融科技人工智能大模型后端桌面应用前端CANN/metadef获取Tensor版本
GetVersion<a name="ZH CN_TOPIC_0000002487041626" </a 函数功能<a name="zh cn_topic_00
人工智能CANNAscendKibi核心架构解析:如何用Rust实现高效文本处理
Kibi核心架构解析:如何用Rust实现高效文本处理 Kibi是一款用Rust编写的轻量级文本编辑器,其核心代码量控制在1024行以内,却实现了高效的文本处理功
开发工具CLI代码编辑器
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考