Osaurus 推出适用于 8GB 和 16GB Macs 的 6.3 GB 代理模型
Raptor 0.5 在 7.9B 个参数中启用了约 1B 个参数，并在 Apple Silicon 上针对文件、电子表格和电子邮件任务。
By Ryan Merket · Published
Primary source: X - Osaurus
为何重要
Raptor 0.5 测试一种经过窄域训练、活跃参数较少的模型，是否能在普通 Mac 上使有用的本地代理变得实用——在这些机器上，内存限制比引人注目的参数数量更重要。
Osaurus co-founder Terence Pae (@tpae) released Raptor 0.5 on September 3rd, a small local agent model designed to remain loaded on Apple Silicon Macs with 8GB or 16GB of unified memory.
https://x.com/OsaurusAI/status/2095563382716002653
…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.