OpenAI reporta hasta 3.6x menor latencia de Jalapeno en pruebas de ingeniería
OpenAI reporta mejoras respecto a los sistemas Nvidia GB200 y GB300 en pruebas realizadas por la propia empresa, con despliegue en producción planeado para finales de 2026.
By Ryan Merket · Published
Primary source: OpenAI
Por qué importa
Un despliegue de Jalapeno en producción le daría a OpenAI control directo sobre parte de su factura de inferencia y otra fuente de capacidad más allá de los proveedores externos de chips. Si el rendimiento con el tráfico de ChatGPT y Codex coincide con las pruebas de ingeniería de OpenAI, el chip podría reducir los costos de servicio y los tiempos de espera, pero esas ganancias aún requieren validación independiente y pruebas a escala de producción.
OpenAI, liderado por el cofundador y CEO Sam Altman, reportó una latencia de extremo a extremo de 1.7x a 3.6x menor para Jalapeno que para los sistemas de Nvidia usados en sus comparaciones. La compañía también reportó una interactividad 2.1x a 4.1x mayor y 1.5x a 1.9x más trabajo de IA por vatio en el rendimiento pico a través de tres grandes modelos abiertos.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.