StepFun、NVIDIA GB300のサービング対応で600Bのモデル重みを公開
Step 5 Preview は総パラメータ数が6,000億で、トークンごとにアクティブになるのは270億です。NVIDIAによれば、そのNVFP4バージョンはGB300上でGPUあたりほぼ8,000トークン/秒で動作します。
By Ryan Merket · Published · Updated

Step 5 Preview は総パラメータ数が6,000億で、トークンごとにアクティブになるのは270億です。NVIDIAによれば、そのNVFP4バージョンはGB300上でGPUあたりほぼ8,000トークン/秒で動作します。