OpenAI dice que operadores vinculados a Moonshot intentaron extraer el razonamiento oculto del modelo
OpenAI dice que una campaña en julio generó 16,000 solicitudes de patrones de extracción en dos días, pero esas cifras miden intentos, no éxitos confirmados.
By Ryan Merket · Published
Primary source: OpenAI
Por qué importa
La disputa expone un problema de seguridad en los mecanismos de la API que permiten que el razonamiento oculto persista entre solicitudes. También muestra por qué la atribución requiere cuidado: OpenAI informa intentos de extracción y un clúster central vinculado a Moonshot, no una tasa de éxito confirmada ni un hallazgo sobre el liderazgo de Moonshot.
OpenAI dice que personas asociadas con Moonshot AI estuvieron detrás de un núcleo central de intentos por extraer el razonamiento oculto de sus modelos, usando bloques de razonamiento cifrado como entradas a otras conversaciones del modelo. La actividad se desarrolló del 1 de julio al 28 de julio; OpenAI la divulgó el 30 de septiembre.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.