Bartowskiがモデル量子化の厄介な側面を扱うimatrixデータセットを公開
公開コーパスはチャットテンプレートとツールの使用を対象としている。imatrixがないと、Qwen3.6-35B-A3BはQ2_Kで約28 BFCLポイント下落した。
By RuntimeWire Staff · Published

公開コーパスはチャットテンプレートとツールの使用を対象としている。imatrixがないと、Qwen3.6-35B-A3BはQ2_Kで約28 BFCLポイント下落した。
公開コーパスはチャットテンプレートとツールの使用を対象としている。imatrixがないと、Qwen3.6-35B-A3BはQ2_Kで約28 BFCLポイント下落した。
By RuntimeWire Staff · Published

公開コーパスはチャットテンプレートとツールの使用を対象としている。imatrixがないと、Qwen3.6-35B-A3BはQ2_Kで約28 BFCLポイント下落した。