Anthropic mantuvo Mythos Preview sin lanzamiento público después de encontrar exploits de software
Logan Graham describió la decisión en una audiencia del New York City Council; Anthropic, en cambio, redirigió el modelo a defensores acreditados a través de Project Glasswing.
By Ryan Merket · Published
Primary source: New York City Council
Por qué importa
La decisión de Anthropic sobre Mythos hace tangible la disyuntiva del despliegue: el descubrimiento de vulnerabilidades puede fortalecer a los defensores, mientras que la generación de exploits aumenta el costo de un acceso amplio. La audiencia del Consejo sitúa esa elección junto a los requisitos propuestos para la validación externa y la responsabilidad legal.
Anthropic retuvo Claude Mythos Preview para su lanzamiento general después de que demostró ser inusualmente capaz de explotar vulnerabilidades de software, dijo el director del Frontier Red Team Logan Graham en la transmisión en vivo del New York City Council el 5 de octubre. Graham dijo que la decisión se tomó después de que el modelo mostró que podía explotar vulnerabilidades, y que eso ocurrió "just this year."…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.