Thinking Machines Lab 推出 Inkling-Small，公开权重并降低计算成本

Why it matters

Inkling-Small gives startups a lower-cost multimodal base they can inspect, host and fine-tune, while turning Tinker into the paid distribution layer for Murati's model family.

Mira Murati (@miramurati) 的 Thinking Machines Lab 于 7月30日 发布了 Inkling-Small，这是一款开放权重的多模态模型，旨在在更低的计算和推理成本下提供其更大兄弟的大部分推理与代理性性能。

在 在 X 上的六帖线程 和一篇 详细的技术公告 中，Thinking Machines Lab 表示 Inkling-Small 总参数为 2760 亿，且每个标记激活 120 亿。该稀疏 Mixture-of-Experts 模型接受文本、图像和音频，支持最多 100 万个标记的上下文窗口，并允许开发者调整其推理努力以在性能与成本之间权衡。

Murati，OpenAI 的前 首席技术官 及短暂代理 CEO，于 2025 年 2 月在公开场合推出了 Thinking Machines Lab，此前她离开 OpenAI，为自己的探索创造了她所描述的“时间和空间”。据 WIRED 报道，Thinking Machines Lab 随后在一轮由 Andreessen Horowitz 领投的种子轮中筹集了约 20 亿美元、估值 120 亿美元，参与投资者包括 Nvidia、Accel、Cisco 和 AMD。

Inkling-Small 将 Murati 最初的主张推向了更易部署的方向：开发者可以理解并改造的 AI 系统，而不是仅通过封闭提供方的接口访问。模型的 完整模型权重 在 Apache 2.0 许可证下提供，允许在遵守许可证条款的前提下用于商业用途、修改和本地部署。

Smaller by design

Inkling-Small 大约是 Inkling 的四分之一，后者是 Thinking Machines Lab 于 7月15日 发布 的，拥有 9750 亿总参数和 410 亿激活。两款模型都使用稀疏架构，将每个标记路由到模型专家的子集，而不是激活所有参数。

Thinking Machines Lab 表示，较小模型受益于训练 Inkling 时获得的经验教训。这些变更包括修订的预训练数据混合、改进的机器学习配方、使用 Inkling 作为教师的 on-policy 蒸馏，以及另外两周专注于代理性编码的强化学习。

由此产生的基准主张在编码和通用推理方面最为突出。Thinking Machines Lab 报告称 Inkling-Small 在 SWE-Bench Verified 上得分 80.2%、在 Terminal-Bench 2.1 上得分 64.7%、在仅文本版本的 Humanity's Last Exam 上得分 31.6%。同一表格中 Inkling 的得分分别为 77.6%、63.8% 和 29.7%。

这些数字仍为厂商自报。Thinking Machines Lab 在其 SWE-Bench 结果中使用了仅 bash 的测试框架（bash-only harness），在 Terminal-Bench 上使用了内部编码测试框架。该实验室表示，对少量被网络搜索污染的 Terminal-Bench 解答赋予了零分。它也承认 Inkling 在知识覆盖和事实准确性方面保有优势。在 SimpleQA Verified 上，Inkling-Small 得分 20.6%，而 Inkling 为 43.9%。

多模态差距更窄。Thinking Machines Lab 报告 Inkling-Small 在 MMMU Pro 上得分 74%，在 VoiceBench 上得分 90.1%，接近 Inkling 的 73.5% 和 91.4%。图像和音频与文本共同处理，而不是通过单独的编码器；模型在推理时可以调用 Python 来裁剪、放大并检查图表或文档的部分内容。

Tinker becomes the distribution channel

Thinking Machines Lab 正通过其希望开发者用于定制化的同一基础设施发布 Inkling-Small。Murati 在 2025 年 10 月推出了 Tinker，这是一项托管微调服务，让用户控制训练数据和算法，而由 Thinking Machines Lab 处理分布式计算、调度和故障恢复。

Inkling-Small 可通过 Tinker 进行微调，并可通过 Tinker Playground 用于文本、图像和音频对话。根据其模型卡，该模型也可以通过包括 Transformers、vLLM 和 SGLang 在内的框架本地运行。

Thinking Machines Lab 的 定价页面 列出针对 64,000 个标记微调配置的限时 50% 折扣。费率为每百万预填充标记 $0.58、每百万抽样标记 $1.44 和每百万训练标记 $1.73。256,000 个标记的配置费用更高，而已发布的模型本身支持最多 100 万个标记的上下文。

这种配套使 Inkling-Small 既是一次模型发布，也是 Tinker 的客户获取工具。开发者可以自行检查和托管权重，然后在需要托管微调或托管推理时向 Thinking Machines Lab 付费。这一方式同时将 Thinking Machines Lab 置于开源模型发布者和定制化提供商的竞争之中。

此次发布也开始展示 Murati 那轮异常庞大的种子轮所买到的东西。Thinking Machines Lab 已从关于可定制 AI 的一般性论点，转向垂直连接的产品线：自有模型家族、一项托管的后训练服务以及一个可以将微调检查点直接暴露给用户的 Playground。去年 3 月宣布的 千兆瓦级别的 Nvidia 合作伙伴关系 为 Thinking Machines Lab 提供了长期获取所需算力以继续扩展该堆栈的途径。