La prueba de Gemini de Irregular llegó a tres empresas reales a través de una conexión abierta a Internet
Los fundadores Dan Lahav y Omer Nevo crearon Irregular para probar la IA de vanguardia de manera segura; un error de configuración en mayo expuso la dificultad de esa tarea.
By RuntimeWire Staff · Published
Primary source: Ars Technica
Por qué importa
El error de Irregular muestra que las evaluaciones de seguridad de la IA son en sí sistemas de producción privilegiados. A medida que los agentes adquieren capacidades ofensivas, una regla de red defectuosa o un nombre de empresa reutilizado puede convertir un benchmark en una intrusión no autorizada.
Una Gemini evaluación realizada en mayo por Dan Lahav (@dan_lahav) y la empresa Irregular de Omer Nevo dio a los modelos de Google acceso no intencional a Internet, llevándolos a sistemas de tres empresas reales, confirmó Google el 18 de septiembre.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.