SemiAnalysis dice que el ajuste de CUDA asistido por IA alcanzó ganancias de 2x en un mes
La publicación del 20 de octubre cita tres mejoras sucesivas de velocidad, pero sus cifras carecen de los detalles de las pruebas de referencia necesarios para compararlas con los resultados de kernel publicados.
By Ryan Merket · Published
Primary source: X
Por qué importa
La optimización de GPU asistida por IA se está convirtiendo en un flujo de trabajo de ingeniería real, pero la velocidad de optimización, el tiempo de ejecución del kernel y el rendimiento del servicio de modelos son métricas separadas. Las cifras de SemiAnalysis necesitan definiciones de benchmark antes de que puedan respaldar una afirmación amplia sobre las ganancias de CUDA.
SemiAnalysis dice que ingenieros de NVIDIA en la PyTorch Conference North America describieron una aceleración rápida en la optimización de CUDA: una mejora de 5x de octubre de 2025 a agosto de 2026 con trabajo experto humano, 2x de septiembre a octubre de 2026 con asistencia de IA, y un 1.5x adicional en octubre usando orquestación de IA y "MegaKernels". La publicación en X no identifica a los ingenieros ni especifica las cargas de trabajo, el hardware, las líneas base o el método de medición detrás de esos multiplicadores.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.