Inception lanza Mercury Voice para agentes telefónicos de IA más rápidos
El modelo de difusión registra un tiempo medio de 320 milisegundos hasta el primer token de respuesta, reportado por la empresa; los clientes empresariales pueden acceder a él con un precio de lanzamiento de $0.20 por cada millón de tokens de entrada.
By Ryan Merket · Published · Updated
Primary source: X
Por qué importa
Los agentes de voz necesitan responder rápidamente mientras siguen instrucciones y usan herramientas. Mercury Voice es el intento de Inception de hacer que la generación por difusión paralela sea competitiva en esa estrecha ventana de latencia, aunque sus tiempos publicados miden el modelo en lugar de la llamada de voz completa.
Inception puso Mercury Voice disponible de forma general para clientes empresariales el 29 de septiembre, promocionando su modelo de lenguaje basado en difusión como una forma de dar a los agentes de voz tiempo para razonar y llamar a herramientas sin dejar a los llamantes en silencio. La empresa reporta una mediana de 320 milisegundos hasta el primer token de respuesta en indicaciones de servicio al cliente en producción, por debajo del objetivo conversacional de aproximadamente 500 milisegundos que usa para la comparación.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.