PrismML 推出用于本地 AI 的 5.9 GB Qwen3.8 模型

Babak Hassibi 的 Caltech 衍生公司表示 Bonsai 2 保持了 98.2% 的全精度性能,但其发布材料在测试套件方面存在不一致。

By · Published

Primary source: PR Newswire

为何重要

PrismML 正在测试是否能够将具备能力的开放权重 AI 从租用的云 GPU 迁移到私有、本地产品中。其足迹具有重要意义;相互冲突的发布指标使得独立测试成为决定性因素。

A compact computing device with a glowing light sits on a wooden desk next to a monitor displaying abstract data, in a modern office.

PrismML 在 9 月 17 日发布了 Bonsai 2 27B,为开发者提供了一个 Apache 2.0 许可的 Qwen3.8 27B 版本,其语言模型可容纳在 5.95 GB 内。PrismML 表示,其三值权重在将模型占用大约压缩近九倍的同时,保留了全精度模型基准性能的 98.2%。

这次发布推进了联合创始人兼首席执行官 Babak Hassibi 的核心赌注——这位 Caltech 教授在信息论、信号处理、控制与机器学习等领域开展了整个职业生涯的工作。Hassibi 在 Stanford 获得电气工程博士学位,曾在 Bell Labs 工作,并于 2001 年加入 Caltech。PrismML 将这种数学背景转化为商业论点:有用的 AI 应当按部署所需的内存、能耗和硬件来衡量。…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.