Celeris lanza API de difusión LLM para bucles de agentes de menos de un segundo
Los fundadores de infraestructura de IA de Repeat, Tom Hamer y Jesse Clark, apuestan a que la decodificación paralela puede llevar modelos más potentes a los flujos de trabajo de voz y agentes.
By Ryan Merket · Published
Primary source: PR Newswire
Por qué importa
Celeris-1 ofrece a los modelos de lenguaje por difusión un segundo proveedor comercial y pone a prueba si una menor latencia, en lugar de otra mejora en capacidades, puede remodelar el software de voz y para agentes.
Tom Hamer y Jesse Clark lanzaron Celeris-1 el 27 de julio, dando a los desarrolladores acceso a un modelo de lenguaje basado en difusión que, según Celeris, puede completar llamadas de razonamiento cortas en milisegundos y generar respuestas largas a 1,664 tokens por segundo.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.