Liquid AIは4ビットのLFM2.5チェックポイントを学習させ、BF16の性能のおよそ97%を維持する

そのMITのスピンアウト企業は、4つのLFM2.5モデルに対して量子化対応蒸留を適用し、続いてそれらをスマートフォン、ラップトップ、ミニPC、およびRaspberry Piでテストしました。

By · Published

Liquid AI trains 4-bit checkpoints to keep roughly 97% of BF16 scores — The MIT spinout used quantization-aware distillation across four LFM2.5 models, then tested them on a phone, laptop, mini PC and Raspberry Pi.

そのMITのスピンアウト企業は、4つのLFM2.5モデルに対して量子化対応蒸留を適用し、続いてそれらをスマートフォン、ラップトップ、ミニPC、およびRaspberry Piでテストしました。