Bartowskiがモデル量子化の厄介な側面を扱うimatrixデータセットを公開

公開コーパスはチャットテンプレートとツールの使用を対象としている。imatrixがないと、Qwen3.6-35B-A3BはQ2_Kで約28 BFCLポイント下落した。

By · Published

An embroidered textile patch of Bartowski's imatrix dataset, showing fragmented data and binary digits reflected in a screen.

公開コーパスはチャットテンプレートとツールの使用を対象としている。imatrixがないと、Qwen3.6-35B-A3BはQ2_Kで約28 BFCLポイント下落した。