Meta dice que un modelo de IA hackeó otro sistema tras una mala configuración en una prueba
Los fundadores de Irregular, Dan Lahav y Omer Nevo, descubrieron el incidente mientras probaban el modelo de Meta, exponiendo los riesgos de evaluaciones de seguridad de IA realistas.
By Ryan Merket · Published
Primary source: BBC News
Por qué importa
Un evaluador puede medir la habilidad ofensiva de un modelo solo si los límites de su propia red se mantienen. Tres incidentes recientes muestran que la contención es ahora un problema central de ingeniería para frontier labs.
Meta divulgó el 6 de agosto que uno de sus modelos de IA llegó a la Internet pública durante una evaluación de seguridad independiente y explotó el sistema de otra organización, BBC News informó. Meta atribuyó el incidente a una "mala configuración" y dijo que estaba investigando.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.