El científico en jefe de OpenAI busca un pacto de seguridad mientras el laboratorio amplía la investigación sobre agentes
Jakub Pachocki quiere que los laboratorios de vanguardia establezcan disparadores compartidos para desacelerar el desarrollo, tres días después de GPT-6 Astra y tras un fallo en la contención de un agente de OpenAI.
By Ryan Merket · Published
Primary source: OpenAI
Por qué importa
OpenAI dice que sus investigadores ya consumen 3.1 jornadas laborales de agentes evaluados por cada jornada laboral humana. Pachocki está pidiendo a laboratorios rivales que acuerden umbrales de seguridad antes de que esos sistemas asuman un papel más importante en el desarrollo de sus sucesores, aunque no se han identificado participantes ni un mecanismo de aplicación.
El científico jefe de OpenAI, Jakub Pachocki, está pidiendo a los laboratorios de IA de frontera que acuerden umbrales de seguridad que los obligarían a frenar el desarrollo antes de que los sistemas de IA asuman un papel mayor en la construcción de sus sucesores.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.