Anthropic rechaza una prohibición sobre los pesos abiertos mientras respalda pruebas para modelos de frontera

Why it matters

Amodei is trying to keep Anthropic's safety agenda from being recast as protectionism. The resulting distinction could shape whether US rules target open models broadly or apply capability tests to every frontier lab.

Dario Amodei usó una publicación de políticas de Anthropic del 27 de julio para rechazar los llamados a una prohibición categórica de los modelos de IA de pesos abiertos mientras defendía controles más estrictos sobre los chips, los métodos de entrenamiento y las capacidades de alto riesgo que moldean la frontera.

Anthropic en X

"Anthropic has never advocated for a ban on open-weights models", escribió Amodei. Calificó a los modelos sin capacidades peligrosas como "un bien público" para desarrolladores, investigadores y empresas, y dijo que las restricciones sobre su uso por parte de empresas estadounidenses no abordarían las amenazas a la seguridad nacional que le preocupan.

La declaración coloca al propio Amodei en el centro de una disputa de políticas que había empezado a presentar la agenda de seguridad de Anthropic como una estrategia de defensa comercial. Físico y biofísico que trabajó en Google Brain y se convirtió en vicepresidente de investigación de OpenAI antes de cofundar Anthropic, Amodei ha construido Anthropic alrededor de la premisa de que los controles de seguridad deben avanzar junto con las capacidades de los modelos. Su publicación del 27 de julio traza un límite más estricto alrededor de esa premisa: el formato de distribución por sí solo no debería decidir qué modelos enfrentan restricciones.

"Protegería a las empresas estadounidenses de IA de la competencia, pero ese nunca ha sido mi objetivo", escribió Amodei sobre una prohibición dirigida al uso por parte de empresas americanas. La concesión importa porque Anthropic vende acceso a modelos de frontera cerrados y tiene un interés financiero directo en cómo los responsables de políticas tratan a los competidores descargables.

Una acusación de proteccionismo obliga a una respuesta más clara

La declaración siguió a una semana de presión desde Washington y la industria tecnológica. Axios informó el 20 de julio que funcionarios estadounidenses habían considerado medidas que podrían desalentar o bloquear a empresas estadounidenses de usar modelos chinos de pesos abiertos. El asesor de IA de la Casa Blanca David Sacks acusó a los principales desarrolladores de modelos cerrados de buscar protección gubernamental frente a competidores más baratos.

El 24 de julio, muchas empresas tecnológicas publicaron una carta de la industria en apoyo de los pesos abiertos. Los signatarios argumentaron que los modelos descargables amplían el acceso, reducen la dependencia de un pequeño grupo de proveedores y permiten a los clientes ejecutar IA en su propia infraestructura. También advirtieron a los responsables de políticas que no traten la destilación legítima de modelos como apropiación indebida.

Anthropic emitió su propia respuesta en su lugar. Amodei coincidió en que los pesos abiertos pueden ampliar el acceso, mejorar el control del cliente y fortalecer la competencia en algunos mercados. Rechazó la afirmación más amplia de la carta de que la apertura necesariamente mejora la seguridad al darles a más defensores e investigadores acceso a un modelo.

Esa discrepancia alcanza la parte más difícil del debate sobre pesos abiertos. Un propietario de un modelo puede actualizar las salvaguardas, monitorear el uso o revocar el acceso a un sistema alojado. Una vez que se liberan los pesos, copias modificadas pueden circular fuera del control del desarrollador original. Amodei sostiene que los riesgos deben medirse mediante pruebas de capacidad en lugar de inferirse a partir de la etiqueta de abierto o cerrado.

Amodei quiere políticas centradas en capacidad y cómputo

Amodei planteó tres prioridades. Estados Unidos debería restringir las exportaciones y el contrabando de chips avanzados y de equipos para la fabricación de chips hacia China, disuadir la extracción de capacidades a escala industrial de modelos estadounidenses, y exigir que los modelos con capacidad suficiente pasen pruebas de seguridad antes de su lanzamiento, ya sea que sus pesos sean abiertos o cerrados.

La propuesta anti-destilación sigue el informe de Anthropic sobre la detección y prevención de ataques de destilación. Amodei distingue campañas industriales de la destilación ordinaria, un método común para entrenar modelos más pequeños con salidas de sistemas más potentes. Su preocupación es la escala, el acceso no autorizado y la transferencia de capacidades de frontera a laboratorios que operan fuera de los controles estadounidenses. El objetivo de la política, en su formulación, es la extracción de capacidades más que la posterior decisión de publicar los pesos.

También respaldó pruebas obligatorias para riesgos cibernéticos, biológicos y de alineación una vez que un modelo supere un umbral de capacidad. Amodei señaló a una propuesta de Demis Hassabis como un posible modelo industrial para aplicar pruebas a los sistemas más capaces independientemente del país de origen o del formato de publicación, mientras que se exima a los modelos menos capaces.

El umbral determinará si ese sistema restringe solo a los laboratorios más grandes o se convierte en una barrera costosa para competidores emergentes. Eso convierte la fijación del umbral en la pelea central: lo bastante estrecho como para evitar atrapar a startups y académicos, pero lo bastante amplio como para cubrir modelos que presentan riesgos serios cibernéticos, biológicos o de alineación.

La posición comercial de Anthropic eleva la apuesta

La influencia política de Anthropic ha crecido junto con su balance. El 28 de mayo, Anthropic dijo que recaudó una Serie H de $65 mil millones a una valoración post-money de $965 mil millones, liderada por Altimeter Capital, Dragoneer, Greenoaks y Sequoia Capital. Anthropic también dijo que los ingresos anualizados habían superado los $47 mil millones a principios de ese mes. RuntimeWire examinó anteriormente cómo la ronda de Amodei concentró el mercado de financiación de startups de 2026.

Esos números hacen que la crítica de proteccionismo sea ineludible. Anthropic tiene el capital, los compromisos de cómputo y la base de clientes para absorber los costos de cumplimiento que agotarían a desarrolladores más pequeños. El acceso cerrado también permite a Anthropic cobrar por el uso y hacer cumplir sus políticas a nivel de cuenta.

Amodei abordó esa tensión directamente en lugar de afirmar que Anthropic no tiene interés en el resultado. Su posición deja espacio para modelos de pesos abiertos en la mayoría de los usos comerciales y de investigación, mientras busca controles en torno a modelos capaces de causar daños cibernéticos o biológicos graves. También preserva el argumento de larga data de Anthropic de que el desarrollo de frontera requiere supervisión, incluso cuando el desarrollador planea publicar los pesos públicamente.

Anthropic aún mantiene cerrados los pesos de frontera de Claude, y la declaración del 27 de julio no compromete a Anthropic con una liberación abierta. Sí estrecha el argumento de política. Amodei está pidiendo a Washington que regule la capacidad medible, el acceso al cómputo y la extracción abusiva en lugar de tratar a todo modelo descargable como el mismo problema de seguridad.