El borrador del proyecto de ley sobre seguridad de IA de Anthropic permite que solo el Departamento de Comercio solicite la suspensión de un lanzamiento
El borrador establece un umbral de más de 50 personas muertas o gravemente heridas, o de más de mil millones de dólares en daños, antes de que Commerce pueda pedir a un tribunal que detenga un lanzamiento.
By RuntimeWire Staff · Published · Updated
Primary source: Tom's Hardware
Por qué importa
Anthropic está intentando que las evaluaciones externas de modelos formen parte de un proceso gubernamental formal. Los umbrales elevados de daño del borrador y el papel exclusivo de Commerce determinarían qué riesgos pueden desencadenar una intervención y qué agencia puede solicitar un bloqueo de lanzamiento.
Anthropic CEO y cofundador Dario Amodei está pidiendo a los legisladores que establezcan una estrecha barrera legal alrededor de las liberaciones de IA más peligrosas: según un proyecto de ley reportado el 16 de octubre, el gobierno podría intentar detener un modelo solo si representara un riesgo inminente de que más de 50 personas fueran asesinadas o resultaran gravemente heridas, o más de 1,000 millones de dólares en daños.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.