LiteLLM lanza Lens para analizar trazas de agentes dentro de su gateway
CTO Ishaan Jaffer dice que Lens agrupará las fallas en grandes volúmenes de trazas; su configuración de acceso anticipado almacena las trazas en la infraestructura del cliente.
By Ryan Merket · Published
Primary source: X
Por qué importa
Lens le da a LiteLLM una vía desde la gestión del tráfico de modelos hacia la depuración y evaluación de agentes. Su analizador alojado por el cliente coincide con el modelo autohospedado de la pasarela, pero la cifra de 200,000 trazas es un escenario futuro, no una métrica de uso reportada.
LiteLLM lanzó Lens el 30 de septiembre, un producto de trazado y análisis que utiliza agentes de IA para encontrar problemas recurrentes a lo largo de ejecuciones de agentes. El lanzamiento sitúa a la startup de gateway en una categoría de observabilidad concurrida mientras extiende su argumento: las llamadas de enrutamiento de infraestructura a modelos también pueden ayudar a los equipos a investigar qué hicieron sus agentes con ellas.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.