Anthropic detalla nuevas defensas contra ataques de destilación de modelos de IA
Las medidas incluyen detección de cuentas, salvaguardas de razonamiento y controles de acceso más estrictos, luego de que Anthropic afirmara que laboratorios rivales usaron millones de intercambios de Claude para entrenar modelos.
By Ryan Merket · Published
Primary source: X
Por qué importa
Las API de modelos de vanguardia pueden servir como una vía indirecta de entrenamiento para competidores. La respuesta de Anthropic muestra que la batalla emergente está avanzando más allá de las prohibiciones de cuentas hacia controles sobre las trazas de razonamiento y las salidas del modelo, con el riesgo de que defensas más fuertes también moldeen cómo los desarrolladores legítimos pueden usar la API.
Anthropic dice que ha avanzado en los últimos meses para hacer que Claude sea más difícil de usar para entrenamiento de modelos no autorizado, describiendo un conjunto de defensas en capas tras reportar campañas de extracción a gran escala que involucraban a laboratorios rivales de IA. La compañía resumió el trabajo en una publicación del 12 de octubre en X y una publicación de investigación sobre sus defensas.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.