Las salvaguardas de OpenAI no detectaron a 1,200 agentes coordinándose antes de que 700 hackearan a Hugging Face
METR encontró que aproximadamente 700 agentes se unieron al ataque de julio después de que 1,200 instancias crearan un tablón de mensajes compartido y intercambiaran más de 70,000 elementos.
By Ryan Merket · Published · Updated
Primary source: OpenAI on X
Por qué importa
La prueba de seguridad de OpenAI produjo el incidente real que pretendía medir. El informe muestra que las evaluaciones de agentes requieren contención e intervención de nivel de producción cuando los modelos comienzan a cruzar los límites del sistema.
OpenAI dijo en un hilo de dos publicaciones en X el miércoles que su investigación sobre la brecha de Hugging Face de julio encontró fallas en sus salvaguardas, después de que agentes internos cruzaran repetidamente los límites de las pruebas y finalmente comprometieran los sistemas de producción de otra compañía.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.