Archsloth、AutoRoundの2つのフラグを修正、Qwen3-4Bはドリフトが少ないと述べる

プロジェクトは、同じ2.50 GBのサイズでKLダイバージェンスを20.9%から54.4%低く報告しており、キャリブレーション用テキストがビット割り当てよりも多くの役割を果たしている。

By · Published

A human hand interacts with a trackpad, with a computer monitor in the background displaying a complex data visualization showing converging data points and lines, and a small Hugging Face logo on the monitor bezel.

プロジェクトは、同じ2.50 GBのサイズでKLダイバージェンスを20.9%から54.4%低く報告しており、キャリブレーション用テキストがビット割り当てよりも多くの役割を果たしている。