Investigador de Anthropic Jacob Coxon renuncia por la carrera hacia la IA que se auto-mejora
El investigador de preentrenamiento trabajó en OpenAI y Anthropic, y luego concluyó que los laboratorios privados no pueden coordinar de manera segura una desaceleración.
By Ryan Merket · Published
Primary source: X - Jacob Coxon
Por qué importa
La salida de Coxon pone en jaque el pacto central de Anthropic: que un laboratorio enfocado en la seguridad puede seguir avanzando en capacidades de vanguardia sin reproducir la dinámica de carrera sobre la que advierte.
Jacob Coxon (@hilbertspaess), un investigador de preentrenamiento que trabajó en OpenAI y Anthropic, renunció a Anthropic el martes después de concluir que la competencia entre laboratorios de IA de vanguardia los estaba empujando hacia sistemas que podrían ser incapaces de controlar.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.