RadixArk ayuda a llevar SGLang a Google TPUs mientras Meta lo usa en producción
Google afirma que co-desarrolló TorchTPU con el equipo de PyTorch de Meta; RadixArk trabajó con Google y Meta en SGLang-TorchTPU, que Meta dice que está en producción.
By RuntimeWire Staff · Published
Primary source: Google Developers Blog
Por qué importa
El desafío de Google con su TPU a Nvidia depende del software tanto como del silicio. El despliegue de Meta pone el enfoque nativo de PyTorch de Google en producción en una importante compañía usuaria de PyTorch.
Meta dijo el 20 de octubre que está ejecutando SGLang-TorchTPU en producción, poniendo a trabajar los chips de IA personalizados de Google en una importante empresa que usa PyTorch. RadixArk, la startup cofundada por Ying Sheng, trabajó con Google y Meta en el motor.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.