OpenAI, Anthropic y Google bloquearon un ataque de razonamiento entre modelos
El ataque utilizó modelos hermanos más débiles como decodificadores y expuso credenciales en registros públicos de agentes antes de que los proveedores lo bloquearan.
By Ryan Merket · Published
Primary source: arXiv
Por qué importa
Los desarrolladores de agentes han considerado que los campos opacos de razonamiento son seguros para retener y publicar. Este artículo muestra que esos bloques pueden contener credenciales extraíbles e instrucciones ocultas.
Alexander Panfilov (@kotekjedi_ml), David Schmotz y Ilia Shumailov (@iliaishacked) encontraron una forma de recuperar razonamientos cifrados generados por modelos de OpenAI, Anthropic y Google, según un artículo publicado el 10 de agosto.
…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.