Microsoft busca capacidad para 300,000 chips Maia 300 para reducir costos de IA

Why it matters

Maia 300 could lower Microsoft's inference costs and reserve Nvidia systems for paying Azure customers, but the strategy needs manufacturing scale and an outside customer.

Microsoft planea presentar su acelerador de IA Maia 300 este otoño y está negociando capacidad de fabricación para más de 300,000 chips en 2027, un aumento pronunciado destinado a convertir el programa de silicio personalizado del CEO Satya Nadella en una alternativa creíble a Nvidia.

The Information informó el lunes que Microsoft podría presentar Maia 300 tan pronto como en septiembre. Microsoft ha producido solo decenas de miles del actual chip Maia 200, según el informe, y todavía estaba ejecutando esos aceleradores en dos centros de datos de EE. UU. a fines de julio.

Microsoft ha estado negociando con Taiwan Semiconductor Manufacturing Co. capacidad para fabricar más de 300,000 chips Maia 300 el próximo año, según The Information, citando a una persona con conocimiento directo de las conversaciones. Microsoft en última instancia quiere capacidad para más de 1 millón de chips, aunque el suministro de componentes y las negociaciones con TSMC podrían limitar ese plan.

Andrew Wall, gerente general de Azure Maia, declinó comentar sobre volúmenes de producción en una declaración a The Information. Wall dijo que las cifras reportadas no reflejaban la escala del programa de Microsoft y que Microsoft espera que los despliegues de Maia soporten la demanda de IA medida en gigavatios. No proporcionó un conteo de chips ni un calendario.

El impulso sigue a un inicio lento para Maia 200. Microsoft retrasó el acelerador después de que las pruebas iniciales no alcanzaran los objetivos internos, informó The Information, y Microsoft sigue siendo el único usuario conocido. Microsoft presentó Maia 200 en enero como un chip para inferencia construido en el proceso de 3 nanómetros de TSMC, con 216 gigabytes de memoria HBM3e y soporte para cálculos de menor precisión FP4 y FP8.

Para abril, Microsoft dijo que Maia 200 estaba operando en sus centros de datos de Iowa y Arizona. Microsoft también afirmó que el acelerador ofrecía más del 30% más tokens por dólar que el silicio más nuevo que entonces operaba en la flota de Microsoft. Esa es una comparación interna, y Microsoft no ha publicado suficientes pruebas con clientes para establecer si Maia puede ofrecer ahorros similares en cargas de trabajo externas.

Anthropic le daría a Maia un cliente externo

Microsoft ha mantenido conversaciones con Anthropic sobre el uso de Maia, según The Information. Conseguir a Anthropic le daría a Microsoft la validación externa que Maia 200 aún no ha asegurado, además de ofrecer a Anthropic otra fuente de capacidad de cómputo para Claude.

Anthropic ya opera a una escala que muestra lo lejos que Microsoft tiene que llegar. AWS dice que casi 1 millón de chips Trainium2 están entrenando y sirviendo a Claude a través de Project Rainier. Alphabet dijo por separado a los inversionistas que Anthropic planeaba acceder a hasta 1 millón de Google TPUs.

Esos despliegues le dan a Amazon y Google algo que a Microsoft todavía le falta: un importante desarrollador de modelos independiente que construye directamente sobre sus aceleradores personalizados. Las herramientas de software, la optimización de modelos y el acceso confiable a clústeres grandes pueden atar a los clientes a una plataforma de chips a lo largo de generaciones sucesivas de hardware. Por lo tanto, Maia 300 tiene que llegar con capacidad utilizable y una pila de software madura, en lugar de solo ganancias en benchmarks.

El pedido reportado seguiría siendo menor que los programas rivales. The Information citó estimaciones de Morgan Stanley de que Google planeaba fabricar más de 3 millones de TPUs en 2026 y 5 millones en 2027. Las conversaciones de Microsoft por más de 300,000 chips Maia 300 representarían aun así un aumento de un orden de magnitud respecto a la producción de Maia 200.

Microsoft puede usar Maia incluso sin Anthropic

Microsoft tiene una gran salida interna para los chips. Maia ejecuta modelos de OpenAI y los propios modelos MAI de Microsoft, que soportan productos Copilot, aunque The Information informó que el hardware de Nvidia aún maneja la mayoría de esas cargas de trabajo.

El plan de respaldo de Microsoft es dirigir más inferencia interna a Maia mientras reserva los costosos sistemas de Nvidia para los clientes de Azure dispuestos a pagar por ellos. Microsoft dijo a los inversionistas en julio que Maia 200 era entre 30% y 40% más barato de operar que los chips Nvidia de vanguardia al ejecutar modelos de OpenAI y Microsoft, según The Information. Las pruebas internas han mostrado más ganancias con Maia 300, dijo el informe, sin proporcionar una cifra.

Esa división de capacidad permitiría a Microsoft capturar ahorros en sus propios productos y preservar el escaso hardware de Nvidia como un recurso de nube premium. También daría a los ingenieros de chips de Microsoft una carga de trabajo predecible mientras Azure intenta persuadir a desarrolladores externos para portar modelos a Maia.

Microsoft ha perseguido este control desde que presentó el primer acelerador Maia en noviembre de 2023. Un correo electrónico de 2022 posteriormente presentado en el tribunal mostró a Nadella preocupado por la delgada capa de infraestructura de Microsoft sobre Nvidia y su falta de control tanto sobre los chips como sobre la propiedad intelectual de OpenAI, informó The Information.

Maia 300 es la primera expansión de producción planificada lo suficientemente grande como para abordar esa dependencia. La presentación en septiembre establecerá las afirmaciones técnicas de Microsoft. La prueba consecuente llega en 2027, cuando Microsoft deberá asegurar los componentes, desplegar cientos de miles de chips y convencer al menos a un gran cliente para que los use.