El informe de beneficio público de Anthropic dice que el trabajo central sobre la seguridad de la IA sigue sin completarse
El informe dice que los métodos actuales de interpretabilidad no son lo suficientemente confiables para detectar todo comportamiento peligroso. Una evaluación separada publicada el 9 de septiembre vuelve a examinar los incidentes cibernéticos que Anthropic dio a conocer por primera vez el 30 de julio; esas pruebas se realizaron sin las salvaguardas incluidas en los modelos publicados.
By Ryan Merket · Published · Updated
Primary source: Anthropic
Por qué importa
El informe de Anthropic expone trabajos de seguridad inconclusos junto a sus compromisos de beneficio público, proporcionando a observadores externos una línea base para juzgar el progreso futuro. Su evaluación del incidente cibernético agrega detalles a los casos que la compañía ya había divulgado, y señala que las pruebas se realizaron sin las salvaguardas incluidas en los modelos publicados.
El Informe de Beneficio Público 2026 de Anthropic dice que el trabajo central de seguridad sigue sin terminar: los métodos actuales de interpretabilidad no son lo bastante confiables para detectar todos los comportamientos peligrosos, y la empresa afirma que persisten brechas de seguridad y una supervisión independiente limitada. El informe enmarca estas deficiencias frente a los compromisos de beneficio público de Anthropic y el trabajo que, según la empresa, aún se necesita para cumplirlos.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.