Modal lanza clústeres de GPU sin servidor con planificación por grupos (gang scheduling) y RDMA
Modal está ampliando la plataforma de cómputo compartido de Erik Bernhardsson para admitir entrenamiento e inferencia distribuidos, con facturación por segundo y un solo decorador de Python.
By RuntimeWire Staff · Published
Primary source: Modal Newsroom
Por qué importa
Modal está llevando su modelo sin servidor a trabajos que tradicionalmente requieren acceso coordinado a hardware costoso y estrechamente interconectado. La apuesta es que su planificador, la capacidad agrupada y la capa de aislamiento pueden hacer que las cargas de trabajo de IA distribuidas se sientan como funciones ordinarias en la nube sin eliminar las demandas operativas de mantener un clúster fiable.
Modal hizo que sus clústeres multinodo de GPU estuvieran generalmente disponibles el 1 de octubre, ofreciendo a los desarrolladores una forma de solicitar capacidad de GPU coordinada mediante un decorador de Python en lugar de montar un clúster por su cuenta.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.