Microsoft 寻求 30 万片 Maia 300 芯片的产能以降低 AI 成本

Why it matters

Maia 300 could lower Microsoft's inference costs and reserve Nvidia systems for paying Azure customers, but the strategy needs manufacturing scale and an outside customer.

Microsoft 计划在今年秋季公布其 Maia 300 AI 加速器，并正在讨论 2027 年生产超过 300,000 颗芯片的产能，这一大幅增长旨在将 CEO Satya Nadella 的定制硅计划打造为 Nvidia 的可信替代方案。

The Information 周一报道，称 Microsoft 最早可能在九月推出 Maia 300。报道称，Microsoft 到目前为止仅生产了数万颗现有的 Maia 200 芯片，并且截至七月下旬仍在两处美国数据中心运行这些加速器。

The Information 引述一位直接了解讨论的人士称，Microsoft 一直在与 Taiwan Semiconductor Manufacturing Co. 协商明年制造超过 300,000 颗 Maia 300 芯片的产能。Microsoft 最终希望拥有超过 100 万颗芯片的产能，尽管组件供应和与 TSMC 的谈判可能会限制该计划。

Azure Maia 总经理 Andrew Wall 在给 The Information 的一份声明中拒绝讨论产量。Wall 表示，报道的数字并不能反映 Microsoft 项目的规模，Microsoft 预计 Maia 的部署将支持以千瓦计量的 AI 需求。他没有提供芯片数量或时间表。

这一推动是在 Maia 200 启动缓慢之后发生的。The Information 报道称，由于早期测试未达到内部目标，Microsoft 推迟了该加速器，且 Microsoft 仍是唯一已知的用户。Microsoft 在一月推出了 Maia 200，将其作为基于 TSMC 3 纳米工艺的推理芯片，配备 216 GB 的 HBM3e 内存并支持更低精度的 FP4 和 FP8 计算。

到了四月，Microsoft 表示 Maia 200 已在其 Iowa 和 Arizona 的数据中心运行。Microsoft 还声称该加速器在当时运行于 Microsoft 机群的最新硅芯片之上，提供了超过 30% 的每美元 token 提升。那是一次内部比较，Microsoft 尚未公布足够的外部客户测试来证明 Maia 是否能在外部工作负载上提供类似的节省。

Anthropic would give Maia an outside customer

据 The Information 报道，Microsoft 已与 Anthropic 就使用 Maia 进行过会谈。拿下 Anthropic 将为 Microsoft 提供 Maia 200 迄今尚未获得的外部背书，同时为 Anthropic 的 Claude 提供另一个计算能力来源。

Anthropic 已经在规模上展示了 Microsoft 还需追赶的距离。AWS 表示，近 100 万颗 Trainium2 芯片 正通过 Project Rainier 训练和服务 Claude。Alphabet 另向投资者表示，Anthropic 计划访问多达 100 万颗 Google TPUs。

这些部署为 Amazon 和 Google 提供了 Microsoft 仍然欠缺的东西：一个直接在其定制加速器上构建的大型独立模型开发者。软件工具、模型优化和对大型集群的可靠访问可以在连续的硬件世代之间将客户绑定到某个平台。因此 Maia 300 必须在可用产能和成熟的软件栈就绪的情况下到来，而不仅仅依靠基准性能提升。

报道称的订单规模仍将小于竞争对手的计划。The Information 引述 Morgan Stanley 的估计称，Google 计划在 2026 年制造超过 300 万颗 TPU、在 2027 年制造 500 万颗。Microsoft 就 Maia 300 超过 300,000 颗芯片的讨论，仍将比 Maia 200 的产量提升一个数量级。

Microsoft can use Maia even without Anthropic

Microsoft 拥有大量内部芯片消纳渠道。Maia 运行 OpenAI 模型和 Microsoft 自身的 MAI 模型，这些模型支持 Copilot 产品，尽管 The Information 报道称 Nvidia 硬件仍处理这些工作负载的大部分。

Microsoft 的后备策略是将更多内部推理工作导向 Maia，同时将昂贵的 Nvidia 系统保留给愿意为其付费的 Azure 客户。The Information 引述 Microsoft 在七月对投资者的说法称，运行 OpenAI 和 Microsoft 模型时，Maia 200 的运营成本比最先进的 Nvidia 芯片低 30% 到 40%。报道称，内部测试显示 Maia 300 带来了进一步的提升，但未给出具体数字。

这种产能划分将使 Microsoft 在自家产品上获取节省，并将稀缺的 Nvidia 硬件保留为高端云资源。它还会为 Microsoft 的芯片工程师提供可预测的工作量，同时 Azure 尝试说服外部开发者将模型移植到 Maia。

自从 Microsoft 在 2023 年 11 月推出首款 Maia 加速器以来，Microsoft 就在追求这种控制。The Information 报道称，2022 年一封后来在法庭上公开的电子邮件显示 Nadella 对 Microsoft 在 Nvidia 之上的薄弱基础设施层以及对芯片和 OpenAI 知识产权缺乏控制表示担忧。

Maia 300 是首个计划中的生产爬坡，规模足以应对这种依赖。九月的发布将确立 Microsoft 的技术主张。决定性的考验将在 2027 年到来——那时 Microsoft 必须确保组件供应，部署数十万颗芯片，并说服至少一个大型客户使用它们。