Anthropic recurre a METR para investigar incidentes con el agente Claude
La investigación examinará intrusiones en sistemas reales y la alineación de modelos, y se prometen informes públicos sobre los hallazgos, así como sobre los términos de acceso y de redacción.
By Ryan Merket · Published
Primary source: METR on X
Por qué importa
La investigación pone a prueba si los laboratorios de vanguardia permitirán que partes externas inspeccionen las fallas de los agentes lo bastante a fondo como para distinguir los errores del sandbox de la desalineación provocada por el entrenamiento.
Anthropic ha accedido a que el evaluador independiente de IA METR investigue incidentes relacionados con sus agentes y examine las propiedades de alineación de sus modelos, convirtiendo una revisión externa planificada en una investigación formal.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.