Unsloth dice que los quants Dynamic 3.0 superan a sus rivales por un 10% a igual tamaño.
Los quants posteriores al entrenamiento de Daniel y Michael Han apuntan a usuarios locales de IA, con las ganancias principales medidas mediante las propias pruebas de Unsloth.
By RuntimeWire Staff · Published
Primary source: Unsloth
Por qué importa
Los hermanos Han están convirtiendo la cuantización en un negocio de distribución: cada mejora en la calidad a un tamaño de archivo fijo amplía el hardware que puede ejecutar modelos abiertos de forma local.
Daniel Han y Michael Han están publicando Unsloth Dynamic 3.0, una actualización del método de compresión de los hermanos para Qwen3.8-27B con archivos GGUF diseñados para conservar más del comportamiento original del modelo en tamaños adecuados para hardware local.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.