StepFun publica pesos del modelo de 600B con soporte de serving NVIDIA GB300
Step 5 Preview tiene 600 mil millones de parámetros en total y 27 mil millones activos por token. NVIDIA dice que su versión NVFP4 funciona a casi 8,000 tokens por segundo por GPU en GB300.
By Ryan Merket · Published · Updated
Primary source: NVIDIA AI
Por qué importa
Los pesos descargables y las afirmaciones de servicio de NVIDIA ofrecen a los desarrolladores una manera de probar el Paso 5 fuera de la API de StepFun. La tarjeta del modelo describe el uso de herramientas a largo plazo, mientras que el enmarcado de 24 horas de NVIDIA sigue siendo una afirmación de la empresa, no un rendimiento demostrado de forma independiente.
Los pesos de 600 mil millones de parámetros de Step 5 Preview de StepFun están disponibles en Hugging Face. NVIDIA dice que la versión NVFP4 corre a casi 8,000 tokens por segundo por GPU en su plataforma GB300.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.