NVIDIAのローカルGLMチェックポイントは実行に2基のGPUを必要とする
10月5日にリリースされたZ.aiのGLM-5.3-FlashのFP4版はVRAMを約166 GiB使用する; Qwenの対応モデルはディスク上で約96 GiBを占める。
By Ryan Merket · Published · Updated
Primary source: X
なぜ重要なのか
NVIDIAのQwenチェックポイントは、オフローディングを用いる単一のDGX SparkまたはRTX PRO 6000 Blackwell GPU上で検証されています。一方、GLMに記載された構成では2台のGPUまたは2台のDGX Sparkシステムが必要です。ローカル推論でも、複数GPUまたは複数システムの構成が必要になる場合があります。
NVIDIA's FP4-Local version of Z.ai's GLM-5.3-Flash requires two RTX PRO 6000 Blackwell GPUs or two DGX Spark systems in the configurations NVIDIA has validated. The checkpoint went up on October 5th; NVIDIA RTX Spark's October 20th post promoted it alongside a smaller Qwen checkpoint as a way to run large models locally.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.