HiddenLayer se une al proyecto Prometheus del DOE de $60 millones para asegurar la IA nuclear

Why it matters

Prometheus gives HiddenLayer a federal proving ground for AI security in regulated, safety-sensitive systems. The $60M supports the full consortium, but a credible nuclear deployment could strengthen HiddenLayer's position against larger cybersecurity platforms.

Chris Sestito está llevando la tesis original de HiddenLayer —que los sistemas de aprendizaje automático requieren sus propios controles de seguridad— al programa de energía nuclear de Estados Unidos.

La empresa de seguridad de IA con sede en Austin, HiddenLayer, dijo en un anuncio del 18 de agosto que contribuirá a Prometheus, una iniciativa del Department of Energy liderada por Idaho National Laboratory. El proyecto planea usar IA en el diseño de reactores, licencias, manufactura, construcción y operaciones, junto con la fabricación de combustible nuclear y la gestión de documentos heredados.

Sestito fundó HiddenLayer en 2022 junto con el chief scientist Tanner Burns y el CIO Jim Ballard después de que los tres trabajaran juntos en ciberseguridad. HiddenLayer dice que los fundadores iniciaron la empresa tras enfrentarse a un ataque adversarial de IA en el mundo real mientras trabajaban en ciberseguridad, una experiencia que los convenció de que la IA se convertiría en una superficie de ataque empresarial distinta.

Esa historia de origen da a HiddenLayer un papel lógico en Prometheus. La energía nuclear combina las dos condiciones que hacen difícil la seguridad de la IA: sistemas que pueden ser manipulados de maneras poco familiars y una infraestructura donde una falla ordinaria de software puede tener consecuencias inusualmente graves.

"La IA tiene un potencial enorme para acelerar el descubrimiento científico y transformar industrias críticas", dijo Sestito en el anuncio. Argumentó que el despliegue debe ir acompañado por un compromiso comparable con la seguridad.

Un asiento en seguridad, no un cheque de $60 millones

La selección de $60 millones para la Fase II pertenece a Prometheus en su conjunto y sigue sujeta a las apropiaciones del Congreso. El comunicado de HiddenLayer describe a la empresa como un contribuyente a la colaboración; no caracteriza el monto total como un contrato o premio otorgado íntegramente a HiddenLayer.

Idaho National Laboratory anunció la selección el 22 de julio, casi cuatro semanas antes de que HiddenLayer identificara su participación. INL describió a Prometheus como un esfuerzo de 32 socios que involucra a los laboratorios nacionales Oak Ridge, Argonne y Sandia, instituciones académicas y más de 20 socios de la industria. Entre los participantes nombrados están los desarrolladores nucleares X-energy, TerraPower y Oklo.

INL dijo que el grupo había reunido más de $200 millones en aportaciones de costo de la industria y $30 millones en capital de la industria, cifras separadas de la posible financiación federal.

El proyecto es el primer premio de Fase II anunciado bajo la Genesis Mission, el intento del DOE de conectar la computación de los laboratorios nacionales, instalaciones científicas, sistemas de IA y conjuntos de datos especializados. DOE dijo en julio que la misión más amplia había asegurado más de $800 millones en compromisos de socios, incluidos recursos de cómputo, infraestructura en la nube, acceso a modelos, apoyo a la investigación y financiación directa.

Prometheus tiene un objetivo operativo más acotado: reducir el tiempo y el costo requeridos para desarrollar energía nuclear preservando la participación humana, la revisión técnica y los requisitos de seguridad establecidos. Esos objetivos le dan a HiddenLayer un caso de uso liderado por el gobierno en el que el comportamiento de los modelos, la procedencia de los datos y la actividad en tiempo de ejecución requieren un escrutinio estrecho.

HiddenLayer se beneficia del acceso a un caso de uso liderado por el gobierno que es más difícil de descartar como una demostración de seguridad de IA. Prometheus coloca la IA dentro de flujos de trabajo científicos e ingenieriles regulados, dando al equipo de Sestito la oportunidad de aplicar sus productos donde el comportamiento del modelo, la procedencia de los datos y la actividad en tiempo de ejecución requieren un escrutinio cercano.

De un ataque a Cylance a la infraestructura nuclear

Sestito dirigió previamente la investigación de amenazas en Cylance y más tarde ocupó roles de liderazgo en ingeniería en Qualys. Burns y Ballard también trabajaron en Cylance, BlackBerry y Qualys, con experiencia en investigación de malware, clasificación de amenazas y seguridad de aprendizaje automático.

El primer producto de los fundadores se centró en detectar y responder a ataques contra modelos de aprendizaje automático sin requerir acceso a los datos de entrenamiento subyacentes ni a los algoritmos. Cuando HiddenLayer salió del sigilo en julio de 2022, Sestito dijo que el equipo había fundado HiddenLayer después de ayudar a responder a un ataque dirigido a través de un producto de aprendizaje automático.

HiddenLayer levantó una ronda semilla de $6 millones alrededor de ese lanzamiento. En septiembre de 2023, obtuvo $50 millones en Serie A codirigida por M12, el fondo de riesgo de Microsoft, y Moore Strategic Ventures. También participaron Booz Allen Ventures, IBM Ventures, Capital One Ventures y Ten Eleven Ventures. HiddenLayer ha anunciado públicamente alrededor de $56 millones en financiación total; no ha atribuido una valoración a esas rondas.

Desde entonces HiddenLayer se ha expandido más allá de su producto original de monitoreo de modelos. La actual plataforma de seguridad de IA cubre descubrimiento, escaneo de la cadena de suministro, simulación de ataques y protección en tiempo de ejecución para sistemas predictivos, generativos y basados en agentes. Su documentación de runtime dice que el software monitorea las entradas y salidas del modelo y puede detectar, redactar o bloquear contenido malicioso. HiddenLayer describe los controles más recientes para sistemas basados en agentes como la reconstrucción de sesiones de múltiples turnos y llamadas a herramientas para que los defensores puedan inspeccionar la actividad de un agente como una secuencia conectada.

Esa amplitud importa porque la seguridad de la IA se ha convertido en un objetivo de consolidación para proveedores de ciberseguridad más grandes. Palo Alto Networks completó su adquisición de Protect AI en julio de 2025 y luego reportó $634.5 millones en contraprestación de compra. Las capacidades de escaneo de modelos, red teaming y runtime de Protect AI ahora están dentro de la oferta Prisma AIRS de Palo Alto. Los materiales para inversionistas de Cisco dicen que la compañía adquirió Robust Intelligence e incorporó su tecnología de validación y runtime en AI Defense.

HiddenLayer sigue posicionada como una especialista independiente frente a esos canales de distribución más grandes. Prometheus le da a Sestito otra vía: integrarse en las instituciones que definen cómo se prueban y operan los sistemas de IA sensibles, en lugar de competir solo a través de ventas convencionales de seguridad empresarial.

El trabajo comienza donde termina el anuncio

Prometheus abarca varios entornos técnicos muy distintos. Escanear documentos históricos nucleares presenta riesgos diferentes a proteger un sistema de IA involucrado en el diseño de reactores, la fabricación de combustible o el apoyo a decisiones operativas. HiddenLayer tendrá que traducir un argumento de plataforma amplio en controles que se ajusten a cada flujo de trabajo sin obstruir la revisión humana que Prometheus ha prometido.

La colaboración también eleva el estándar de la evidencia. Detectar una inyección de instrucciones en un chatbot de oficina es una demostración de seguridad familiar. Demostrar que el mismo enfoque defensivo puede identificar ataques relevantes, preservar la auditabilidad y operar dentro de las limitaciones de la ingeniería nuclear tendría más peso ante compradores gubernamentales y de infraestructura crítica.

Sestito inició HiddenLayer después de encontrarse con un ataque adversarial de IA mientras trabajaba en ciberseguridad. Cuatro años después, Prometheus les da a los fundadores un lugar para probar esa tesis dentro de uno de los dominios técnicos más estrictamente controlados del país.