VOLLO de Myrtle.ai alcanza 50 millones de inferencias de árboles por segundo en la prueba STAC
En un servidor AMD Alveo V80LL y Blackcore, VOLLO logró una latencia p99 inferior a 2 microsegundos en tres modelos de árbol; STAC lo lista como ML-20260925, mientras que el comunicado de myrtle.ai cita MRTL2026905.
By RuntimeWire Staff · Published · Updated
Primary source: PR Newswire
Por qué importa
El benchmark cuantifica el rendimiento de VOLLO en tres modelos probados e identifica el sistema anterior utilizado para la comparación, proporcionando a Myrtle.ai una base concreta para su propuesta de inferencia en FPGA en operaciones de trading sensibles a la latencia. Los resultados siguen siendo específicos para una carga de trabajo y una configuración de hardware definidas.
myrtle.ai fundador y CEO Peter Baldwin dice que las empresas de trading pueden ejecutar modelos más potentes sin sacrificar la velocidad. El 6 de octubre, myrtle.ai reportó récords auditados por STAC para su acelerador de inferencia VOLLO en cargas de trabajo de gradient-boosted-tree: latencia p99 por debajo de dos microsegundos en tres modelos y 50 millones de inferencias por segundo en el más pequeño.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.