10 月 15 日，阶跃星辰把新一代旗舰模型 Step 5 Preview 正式开源，在AI 编程、软件工程、专业工作、金融等几条线上，都达到了前沿水准。
模型权重刚放出来，昇腾这边就已经基于 vLLM 推理引擎把 0Day 支持做好了——不是"后续适配"，是当天就能跑。
(资料图)
昇腾 Atlas 950 SuperPoD 液冷超节点直接把1024 卡拉成一个域，专门接这种稀疏 MoE + 百万上下文的重活，而且通过一整套深度优化，性能不输那个英俊的海外先进算力！
Step 5 Preview：600B 总参数量、27B 激活的全新架构模型
Step 5 Preview 走的是稀疏 MoE 路线：
• 总参数 600B
• 单 token 激活 27B
• 上下文窗口 1M token
• 支持图像、视频多模态输入
架构上，这代换成了新的 Sparse Attention：先靠 Indexer 挑 token，再在选中范围内算 self-attention；为了不让 Index 本身成为瓶颈，改成以 Region（8 个 token） 为单位压缩 Indexer Key，效率和效果一起保。
场景侧，主打 Agent、软件工程、金融这类长任务，全是实打实的生产力，而且各块性能和最前沿的模型打得有来有回，底子够硬。
Step 5 Preview与主流前沿模型在Agentic Benchmark上的性能对比
昇腾超节点：拆了通信墙，稳稳托举前沿模型
传统集群跑 MoE 模型最痛苦的就是卡要等数据。昇腾 Atlas 950 SuperPoD 的思路很直白——把千卡当成一台机器用。
核心规格：
• 1024 张昇腾 950 NPU 单域互联
• 1 EFLOPS FP8 / 2 EFLOPS FP4 算力
• 256TB 全局统一内存编址
• NPU 卡间 TB 级带宽，时延压到 3μs
底层是灵衢高速互联，1024 卡直接互访，不走 CPU 中转、不堆交换机。换成工程语言就是：All-to-All、MoE 路由、KV 搬运这些原来最拖后腿的链路，现在都能吃到域内带宽。
昇腾Atlas 950 SuperPoD液冷超节点
昇腾深度优化：算子、通信、框架一起发力
昇腾针对这款模型的优化可不是单点改 kernel，而是围绕 Step 5 Preview 的架构 + 950 的硬件特性做全链路：算子融合 → 通信调度 → 框架执行，软硬协同一条链打通。
1. 算子层：Ascend C + Triton 双线提速
• IndexerLogits / SparseAttn 走 Ascend C
950 新增的 FP8 算力直接用上，token 打分、TopK、Sort 融成一个算子；SparseAttn 用 vector 单元 SIMD 替掉 scalar 运算，搬运用成对 region 提带宽。
• Triton 融合 Kernel
qk norm、index key 压缩做成融合算子，加 AutoTune 自动找 Tiling，吃满 950 的 SIMT 能力。
• MoE 路由优化
Hash TopK 专家选择里把前处理和精度传递收一遍，少做跨层重复操作。
• MXFP8 量化
权重重排成 MXFP8，硬件单元直接反量化，精度几乎不动，950算力跑满。
2. 通信层：FullMesh + CLOS 一起开
950 超节点可以同时跑 FullMesh 和 CLOS，AllReduce / AllGather / ReduceScatter 等原语把性能拉满。
两个关键动作：
• Dispatch Server 级去重
同一 token 被多个同机专家选中时，跨服务器只发一份主副本，进服务器再分发，重复流量砍掉。
• Combine 双缓冲
专家算完先本地归并，两个输出 buffer 交替用——回传上一波的同时，下一波继续 Reduce，把等待时间压下去。
3. 框架层：把"空泡"挤掉
推理快不快，不光看算子，还得看调度有没有断流。
• MoE 序列并行：降冗余计算
• Vector / Cube / 通信多流并行：计算与访存交叠，填计算空泡
• NPU Graph：解码阶段纳入图执行，持久化 buffer + 输出复用，少临时分配
• MTP + tiling 下沉：把主模型/草稿模型间的断流消掉，device 空泡减少
• Prefill Indexer Key slot 预分配：层间动态搜 slot 改成预分配，冗余操作删掉
一句话：昇腾把非计算开销能压就压，把 950 的带宽和算力真的喂到了模型上。
想自己跑：部署指引在这 ↓
Step 5 Preview 昇腾量化版推理部署指导（vLLM Ascend）：
https://docs.vllm.ai/projects/ascend/en/latest/tutorials/models/Step-5-Preview.html
