StepFun 发布了带有对 NVIDIA GB300 推理支持的 600B 模型权重

Step 5 Preview 拥有 6000 亿个总参数,且每个令牌有 270 亿个活跃参数。NVIDIA 表示其 NVFP4 版本在 GB300 上每块 GPU 的运行速度接近每秒 8000 个令牌。

By · Published

Primary source: NVIDIA AI

为何重要

可下载的权重和 NVIDIA 的部署声明为开发者提供了一种在 StepFun 的 API 之外测试 Step 5 的方式。模型卡描述了长时程工具使用,而 NVIDIA 所提出的“24 小时”表述仍然只是公司的主张,尚未被独立证明为实际性能。

StepFun opens Step 5 weights as NVIDIA maps the model to GB300 — Founder Jiang Daxin launched the 600B-parameter model on September 20th; its weights and NVIDIA's NVFP4 deployment details surfaced on October 15th.

StepFun 的拥有 6000 亿参数的 Step 5 Preview 权重已在 Hugging Face 提供。NVIDIA 表示该 NVFP4 版本在其 GB300 平台上每块 GPU 的吞吐接近每秒 8,000 个标记。StepFun 于 9 月 20 日发布了该模型,并表示权重将于 10 月 15 日公布;NVIDIA 在其 10 月 15 日的帖子 中将此次发布描述为 StepFun 迄今规模最大的开放权重发布。

StepFun 将 Step 5 定位于需要反复调用工具、执行、验证和修订的长时间运行的软件和专业工作流程。NVIDIA 表示该模型面向可持续长达 24 小时的 agent 任务构建。StepFun 自身的资料描述了长时域的执行,但并未确立该具体时长。…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.