Una configuración irregular del banco de pruebas permitió que los modelos de tres laboratorios de IA llegaran a sistemas en vivo
Los cofundadores de Irregular, Dan Lahav y Omer Nevo, construyeron un laboratorio independiente de seguridad en IA cuya infraestructura de evaluación se convirtió en parte del riesgo que fue diseñado para medir.
By Ryan Merket · Published
Primary source: CNBC
Por qué importa
Los evaluadores independientes se están convirtiendo en infraestructura crítica para los laboratorios de IA de vanguardia. La falla del banco de pruebas de Irregular muestra que sus redes, sistemas de monitoreo y controles de parada deben estar asegurados al igual que los sistemas de producción.
Dan Lahav (@dan_lahav) y Omer Nevo construyeron Irregular para encontrar comportamientos peligrosos antes de que modelos de IA avanzados llegaran a clientes. En las últimas dos semanas, OpenAI, Anthropic y Meta revelaron incidentes en los que modelos alcanzaron sitios web reales y sistemas en producción durante pruebas de ciberseguridad que involucraron el entorno de evaluación de Irregular, según…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.