AI Gateway de Cloudflare vincula identidad con la detección de anomalías en gastos

AI Gateway de Cloudflare vincula identidades verificadas con el gasto en modelos, mientras que User Insights compara los costos de las sesiones con una línea base de 30 días.

By · Published

Primary source: The Cloudflare Blog

Why it matters

AI spending and agent security increasingly share the same control problem: organizations cannot govern traffic they cannot attribute. Cloudflare is using Access to make identity the anchor for budgets, analytics and investigations.

Illustration of Cloudflare's AI Gateway depicted as a secure gateway with activity indicators flagging spending anomalies and a sidebar showing User Insights cost comparisons.

Cloudflare y su AI Gateway vinculan la detección de anomalías basada en identidad con el gasto en modelos, ofreciendo a los equipos de seguridad y finanzas una forma de rastrear el uso inusual hasta una persona y detectar agentes de software que se apartan de sus patrones establecidos. Matthew Prince (@eastdakota) y Michelle Zatlyn (@zatlyn) cofundaron la compañía.

La publicación sobre Identity-aware AI Gateway de Cloudflare describe la integración de Cloudflare Access como beta abierta y User Insights como generalmente disponible, mientras que la publicación del 5 de junio describió los presupuestos y políticas impulsados por identidad como una beta cerrada. Los materiales suministrados no establecen si esas etapas cambiaron después de cualquiera de los anuncios. Tampoco se pudo verificar la fecha de publicación de la entrada sobre Identity-aware AI Gateway.

El emparejamiento avanza una estrategia familiar de Prince y Zatlyn: incorporar un control de seguridad existente a una nueva clase de tráfico antes de que los clientes construyan un plano de control separado alrededor de él.

Los orígenes de Cloudflare hacen que el movimiento sea menos sorprendente. Prince y el cofundador Lee Holloway fundaron Project Honey Pot para rastrear cómo los spammers recolectaban direcciones de correo electrónico. Los usuarios querían que el servicio detuviera el tráfico malicioso además de identificarlo. Zatlyn, que conoció a Prince en Harvard Business School tras trabajar en Google y Toshiba, ayudó a convertir esa demanda en Cloudflare en 2009. AI Gateway aplica una secuencia similar al tráfico de modelos: establecer quién generó una solicitud, aprender el comportamiento normal de la cuenta y poner las desviaciones frente a un administrador.

Una identidad para cada solicitud

AI Gateway se sitúa entre una aplicación o un agente de codificación y proveedores de modelos como OpenAI, Anthropic y Google. Las solicitudes enrutadas a través del gateway pueden registrarse, almacenarse en caché, limitarse por tasa, reintentarse o enviarse a un modelo de respaldo. Cloudflare también admite herramientas de codificación, incluidas Claude Code, OpenAI Codex y GitHub Copilot.

La integración de Cloudflare Access coloca un dominio personalizado delante de ese tráfico y autentica a los usuarios a través del proveedor de identidad de la organización. AI Gateway registra el sujeto verificado de Access en los metadatos de la solicitud como cf.user_id, lo que permite a los administradores filtrar registros, analíticas y el gasto observado por usuario. Access elimina la necesidad de distribuir una clave API compartida de Cloudflare a cada empleado que use el gateway.

Esa identidad puede alimentar los límites de gasto. Un administrador puede asignar presupuestos separados a usuarios, modelos o proveedores y rechazar solicitudes adicionales cuando se alcanza un límite. En su lugar, una ruta dinámica puede enviar el tráfico a un modelo más económico. La documentación de Cloudflare advierte que sus cifras de costo son estimaciones basadas en recuentos de tokens y precios de modelos, y que las solicitudes concurrentes pueden empujar brevemente el gasto más allá de un límite antes de que la aplicación de la política se ponga al día.

Flexport es un adoptante temprano. Max Baumgarten, ingeniero de seguridad del personal, dijo que las claves API compartidas dificultaban identificar quién estaba usando un servicio de IA o aplicar las reglas de acceso de empleados existentes. Colocar Access delante de AI Gateway permite a Flexport reutilizar sus políticas de identidad en lugar de crear un sistema de autenticación separado para cada cliente de IA, según el anuncio de Cloudflare.

Una anomalía de gasto se convierte en una pista de seguridad

User Insights analiza sesiones en lugar de tratar cada solicitud como un evento independiente. User Insights compara cada sesión con el costo de sesión del percentil 95 de la propia cuenta durante los 30 días anteriores y considera candidatas a comportamiento anómalo a las sesiones que superan el doble de esa línea base, sujetas a un techo p99 a nivel de cuenta.

Los dos umbrales están diseñados para suprimir el ruido predecible. Un desarrollador que ejecuta sesiones caras con regularidad no debería activar una alerta únicamente porque la factura absoluta sea alta. Un agente cuyo costo normal por sesión es de $5 merece escrutinio cuando una ejecución de repente cuesta $50, aunque Cloudflare también requiere que la sesión supere el umbral de costo a nivel de cuenta.

La alerta resultante es una pista para un administrador, no un veredicto. User Insights examina patrones de costo y uso. No determina si un usuario actuó maliciosamente, no inspecciona la intención ni bloquea automáticamente la cuenta. Una sesión inusual podría reflejar una credencial comprometida, un agente en bucle, un proyecto legítimo o un ingeniero que envía repetidamente ventanas de contexto de tamaño excesivo.

Ese alcance limitado mantiene la función útil. Cloudflare evita afirmar que el análisis estadístico del gasto puede identificar intención maliciosa. En cambio, User Insights reduce una gran corriente de llamadas a modelos a un conjunto más pequeño de identidades cuyo comportamiento merece una revisión humana.

Cloudflare está agrupando el plano de control de agentes

Los AI gateways se han convertido en una capa de infraestructura disputada. Portkey's Agent Gateway enfatiza el registro de agentes, controles de acceso por agente, trazado de llamadas MCP y un registro de agentes. Langfuse ofrece una pila de observabilidad de código abierto que los clientes pueden ejecutar en su propia infraestructura. Kong está llevando la gobernanza de IA a su gateway API ya establecido.

La ventaja de Cloudflare es la distribución a través de productos que los clientes ya pueden usar. Access suministra identidad, AI Gateway suministra enrutamiento de modelos y registros, y Workers suministra el runtime para aplicaciones y agentes.

La analítica consciente de la identidad hace que ese paquete sea más difícil de separar. Una vez que un cliente enruta el tráfico de IA a través de Cloudflare para autenticación, límites de gasto y detección de anomalías, migrar a otro gateway requiere reemplazar varios controles vinculados en lugar de un único endpoint proxy.

Cloudflare todavía está construyendo la capa de aplicación alrededor de esas señales. Su publicación del 5 de junio dice que los límites de gasto basados en grupos y el acceso a modelos están planificados para el futuro. El enrutamiento basado en tareas, que clasificaría una solicitud y elegiría un modelo de menor costo, también permanece en desarrollo. Cloudflare ya ha enviado el prerrequisito: una manera de poner un nombre al tráfico de IA autenticado por Access y encontrar las identidades cuyo comportamiento ha cambiado lo suficiente como para merecer una mirada más cercana.

Reader comments

Conversation for this story loads after sign-in.