OpenAI adelanta controles de seguridad entre sesiones diseñados para preservar la retención cero de datos

Why it matters

Enterprise AI vendors need context across long-running agent tasks to detect abuse, but retaining customer prompts can block adoption. OpenAI is making privacy-preserving monitoring a competitive feature.

Sam Altman (@sama), cofundador y CEO de OpenAI, dijo el miércoles que OpenAI preservará Zero Data Retention para los clientes elegibles de la API mientras introduce sistemas de seguridad capaces de detectar un uso indebido a lo largo de múltiples interacciones relacionadas.

OpenAI llama al sistema Private Safety Processing. La compañía la está probando con clientes iniciales y planea comenzar su despliegue en septiembre, cuando también espera publicar un documento técnico.

Altman condensó el argumento de venta en cinco palabras en X: "¡apoyamos la privacidad empresarial!" El anuncio subyacente aborda un problema creciente para los proveedores de IA y sus clientes empresariales. Las tareas más largas que implican agencia pueden propagar comportamientos riesgosos a través de muchos prompts, cuentas o sesiones, mientras que las empresas que manejan expedientes médicos, información financiera, código propietario y planes internos a menudo no pueden permitir que un proveedor de modelos retenga ese material para una revisión posterior.

Cómo funciona Private Safety Processing

El programa existente Zero Data Retention de OpenAI excluye el contenido de los clientes de los registros de monitoreo de abuso para las organizaciones aprobadas que usan funciones elegibles de la API. La documentación actual de control de datos de la API de la compañía dice que, de otro modo, los registros estándar de monitoreo de abuso pueden contener prompts y respuestas y generalmente se conservan hasta por 30 días.

Las salvaguardas compatibles con ZDR evalúan las interacciones de forma individual. Private Safety Processing está diseñado para reconocer patrones a través de interacciones relacionadas, incluyendo intentos repetidos de sondear las salvaguardas, actividad coordinada entre cuentas y agentes que siguen actuando después de que un usuario les pide que se detengan.

Para despliegues con ZDR, OpenAI dice que los prompts y respuestas subyacentes permanecerán en la infraestructura controlada por el cliente. OpenAI también está desarrollando una configuración en la que el contenido puede residir en su infraestructura mientras está cifrado con claves en poder del cliente. El personal de OpenAI no tendría copias de esas claves.

Sistemas automatizados procesarían el contenido protegido y devolverían una señal estrechamente definida que describa la categoría de actividad sospechosa. OpenAI dice que su personal recibiría esa señal, que podría respaldar una decisión de cumplimiento, sin acceder a los prompts ni a las respuestas del modelo que la produjeron.

Los clientes conservarían los registros necesarios para investigar una alerta. Luego podrían optar por compartir material relevante con OpenAI al impugnar una decisión de cumplimiento, explicar una actividad legítima o ayudar en una investigación sobre abuso verificado.

La privacidad se convierte en parte de la competencia entre modelos

OpenAI posicionó explícitamente el diseño en contraposición a las implementaciones de modelos de vanguardia que requieren que los clientes permitan la retención de contenido para el monitoreo de seguridad. El atractivo es comercial tanto como técnico: un modelo más potente tiene un valor limitado dentro de una empresa regulada si adoptarlo obliga a los equipos de seguridad a ceder el control de datos sensibles.

OpenAI ya indica que los datos empresariales provenientes de su API y productos empresariales están excluidos del entrenamiento del modelo por defecto, a menos que un cliente opte por incluirlos. ZDR va más allá al limitar la retención para el monitoreo de abuso y el estado de la aplicación en los servicios elegibles. Private Safety Processing es el intento de OpenAI por extender esa promesa a medida que sus modelos asumen trabajos que se desarrollan en horizontes temporales más largos.

El anuncio menciona a Glean, Databricks, Abridge y Microsoft como clientes que ayudan a dar forma al enfoque. El jefe de seguridad de Glean, Sunil Agrawal, dijo que la adopción empresarial depende de que los clientes mantengan el control de su información y eviten usos directos o derivados fuera del servicio que seleccionaron.

Esa alineación de clientes apunta al mercado que OpenAI está protegiendo. Las empresas de búsqueda, infraestructura de datos, salud y software para el lugar de trabajo procesan rutinariamente registros que no pueden colocarse en una cola de revisión de uso general. Preservar ZDR les da a esas empresas una vía para desplegar modelos de vanguardia sin reescribir sus compromisos de gobernanza de datos en torno a las necesidades del proveedor del modelo.

La retención cero aún tiene límites

ZDR es un control de API basado en aprobación más que una promesa general que cubra cada producto y característica de OpenAI. La documentación de OpenAI enumera varias capacidades que almacenan el estado de la aplicación o que permanecen incompatibles con ZDR. El procesamiento en segundo plano y Code Interpreter, por ejemplo, no pueden usarse bajo la configuración estándar de ZDR descrita en la documentación actual.

También existe una excepción legal y de seguridad para imágenes marcadas como posible material de abuso sexual infantil. OpenAI dice que esas imágenes seguirán siendo retenidas para revisión humana e informes legalmente requeridos, incluso en despliegues con ZDR.

El documento técnico de septiembre cargará con el peso técnico detrás del anuncio. Tendrá que explicar cómo se aísla el procesamiento, cómo operan en la práctica las claves controladas por el cliente, qué información contienen las señales limitadas de seguridad y cómo el sistema maneja los falsos positivos sin exponer el contenido subyacente. OpenAI ha delineado la arquitectura del producto y el flujo de aplicación. Su argumento sobre privacidad empresarial ahora depende de probar que la maquinaria preserva el límite que Altman anunció.