Goodfire monitorea agentes de IA desde dentro del modelo para reducir los costos de revisión
El lanzamiento de Baseten por Goodfire utiliza pequeñas sondas para señalar comportamientos de riesgo antes de escalarlos. Goodfire informa los costos y los resultados de detección en Kimi K3, además de resultados separados de las sondas en GLM-4.5-Air.
By RuntimeWire Staff · Published
Primary source: TechCrunch
Por qué importa
Goodfire está convirtiendo la investigación sobre interpretabilidad en un producto para el tiempo de inferencia. Ha publicado resultados de sondeos de un ejemplo de acción prohibida de GLM-4.5-Air y de pruebas del monitor de hacking Kimi K3, aunque esos resultados realizados por la empresa no establecen el desempeño en los despliegues de clientes.
Goodfire lanzó monitores para agentes de IA el 8 de octubre que buscan comportamientos riesgosos dentro de los cálculos de un modelo, con el objetivo de evitar el gasto de que una segunda IA vuelva a leer cada paso. El producto inicial está disponible para clientes en la plataforma de inferencia de Baseten, donde pueden decidir si se registra una alerta, se envía a una persona o se utiliza para rechazar una solicitud, según el [informe de…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.