Unsloth hace que el modelo 552B de DeepSeek quepa en una descarga local de 250 GB.
El GGUF de 1 bit requiere al menos 128 GB de memoria, y la cifra de 88.2% de Unsloth mide la concordancia de tokens en un conjunto de prueba, no la precisión general en pruebas de referencia.
By Ryan Merket · Published · Updated
Primary source: X
Por qué importa
Los desarrolladores pueden ejecutar la última instantánea de DeepSeek sin enviar indicaciones a su API, pero la descarga de 250 GB y el requisito de más de 128 GB de memoria limitan el uso local a sistemas de gama alta.
Unsloth AI publicó una versión GGUF de 1-bit de DeepSeek V4.1-Flash-1017 el 19 de octubre, afirmando que puede ejecutarse localmente en sistemas con al menos 128GB de memoria. Su compilación más pequeña listada es de 250.4GB, frente a 508.4GB para la versión de 8-bit, según la guía de Unsloth.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.