Investigadores hicieron evolucionar "virus mentales" de IA. El antivirus fue un párrafo.
El preprint mostró cargas útiles en lenguaje natural que se propagaban a través de agentes de codificación y archivos, mientras describía el riesgo actual como limitado.
By Ryan Merket · Published
Primary source: X
Por qué importa
Las redes de agentes crean un nuevo límite de seguridad: el texto ordinario puede convertirse en instrucciones persistentes cuando los modelos pueden reescribir archivos cargados en indicaciones del sistema posteriores.
Researchers Vassilis Papadopoulos, McNair Shah, Sam Zimmerman and Jack Lindsey (@Jack_W_Lindsey) demostraron que instrucciones en lenguaje natural cuidadosamente evolucionadas pueden propagarse entre agentes de IA, sobrevivir a reinicios de contexto y redirigir a un grupo lejos de su trabajo asignado.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.