Archsloth、AutoRoundの2つのフラグを修正、Qwen3-4Bはドリフトが少ないと述べる
プロジェクトは、同じ2.50 GBのサイズでKLダイバージェンスを20.9%から54.4%低く報告しており、キャリブレーション用テキストがビット割り当てよりも多くの役割を果たしている。
By RuntimeWire Staff · Published

プロジェクトは、同じ2.50 GBのサイズでKLダイバージェンスを20.9%から54.4%低く報告しており、キャリブレーション用テキストがビット割り当てよりも多くの役割を果たしている。