Cerebras dice que la inferencia con chips mixtos aumenta el rendimiento 5x en resultados iniciales
Cerebras afirma que la desagregación aumentó el rendimiento utilizando el mismo número de sus sistemas sin reducir la velocidad de generación de tokens. Un acuerdo separado de General Compute está programado para llevar la capacidad de inferencia de Cerebras a los clientes en el primer trimestre de 2027.
By Ryan Merket · Published
Primary source: Cerebras Newsroom
Por qué importa
Cerebras está posicionando su hardware a escala de oblea como una parte especializada de los sistemas de inferencia de chips mixtos, donde distintos tipos de chips pueden encargarse de las etapas que mejor se ajustan a sus fortalezas.
Cerebras, cofundada por Andrew Feldman, dice que separar las etapas de la inferencia de IA aumentó el rendimiento 5x en resultados iniciales, usando el mismo número de sistemas Cerebras sin reducir la velocidad de generación de tokens.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.