Liquid AIは4ビットのLFM2.5チェックポイントを学習させ、BF16の性能のおよそ97%を維持する
そのMITのスピンアウト企業は、4つのLFM2.5モデルに対して量子化対応蒸留を適用し、続いてそれらをスマートフォン、ラップトップ、ミニPC、およびRaspberry Piでテストしました。
By RuntimeWire Staff · Published

そのMITのスピンアウト企業は、4つのLFM2.5モデルに対して量子化対応蒸留を適用し、続いてそれらをスマートフォン、ラップトップ、ミニPC、およびRaspberry Piでテストしました。