El punto de control local de GLM de NVIDIA requiere dos GPUs para ejecutarse
Lanzada el 5 de octubre, la versión FP4 de GLM-5.3-Flash de Z.ai usa aproximadamente 166 GiB de VRAM; la contraparte de Qwen ocupa aproximadamente 96 GiB en disco.
By Ryan Merket · Published · Updated
Primary source: X
Por qué importa
El checkpoint Qwen de NVIDIA está validado en un único DGX Spark o en una GPU RTX PRO 6000 Blackwell con descarga de cómputo, mientras que las configuraciones listadas de GLM requieren dos GPUs o dos sistemas DGX Spark. La inferencia local aún puede requerir una configuración con múltiples GPU o múltiples sistemas.
La versión FP4-Local de NVIDIA del GLM-5.3-Flash de Z.ai requiere dos GPUs RTX PRO 6000 Blackwell o dos sistemas DGX Spark en las configuraciones que NVIDIA ha validado. El checkpoint se publicó el 5 de octubre; la publicación del 20 de octubre de NVIDIA RTX Spark lo promovió junto con un checkpoint Qwen más pequeño como una forma de ejecutar modelos grandes localmente.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.