Thinking Machines Lab 推出 Inkling-Small，公开权重并降低计算成本
这款拥有2760亿参数的多模态模型为Murati的Tinker平台提供了一个成本更低的基础，用于微调编程代理和定制的人工智能应用。
By Ryan Merket · Published
Primary source: X
为何重要
Inkling-Small 为初创公司提供了一个成本更低的多模态基础，供他们检查、托管并微调，同时将 Tinker 转变为 Murati 模型家族的付费分发层。
Mira Murati (@miramurati) 的 Thinking Machines Lab 于 7月30日 发布了 Inkling-Small，这是一款开放权重的多模态模型，旨在在更低的计算和推理成本下提供其更大兄弟的大部分推理与代理性性能。
在 在 X 上的六帖线程 和一篇 详细的技术公告 中，Thinking Machines Lab 表示 Inkling-Small 总参数为 2760 亿，且每个标记激活 120 亿。该稀疏 Mixture-of-Experts 模型接受文本、图像和音频，支持最多 100 万个标记的上下文窗口，并允许开发者调整其推理努力以在性能与成本之间权衡。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.