HiddenLayer 加入 DOE 的 6000 万美元 Prometheus 项目，以保障核能领域的人工智能安全

Why it matters

Prometheus gives HiddenLayer a federal proving ground for AI security in regulated, safety-sensitive systems. The $60M supports the full consortium, but a credible nuclear deployment could strengthen HiddenLayer's position against larger cybersecurity platforms.

Chris Sestito 正将 HiddenLayer 的原始论点——机器学习系统需要其自身的安全控制——带入美国核能计划。

这家总部位于奥斯汀的 AI 安全公司 HiddenLayer 在 8月18日的公告 中表示，它将参与 Prometheus，这是由 Idaho National Laboratory 牵头的 Department of Energy 倡议。该项目计划在反应堆设计、许可、制造、施工与运营，以及核燃料制造和旧档案管理等方面广泛使用 AI。

Sestito 于 2022 年与首席科学家 Tanner Burns 和 CIO Jim Ballard 一起创立了 HiddenLayer，三人在从事网络安全工作时共事。HiddenLayer 表示，创始人是在一次真实的对抗性 AI 攻击事件中遭遇问题后创办公司的，这次经历使他们确信 AI 将成为一种独立的企业攻击面。

这个起源故事使 HiddenLayer 在 Prometheus 中具有合乎逻辑的角色。核能结合了使 AI 安全变得困难的两类条件：可能以不熟悉方式被操纵的系统，以及普通软件故障可能带来非同寻常高后果的基础设施。

“AI 在加速科学发现和改造关键行业方面具有巨大潜力，”Sestito 在公告中表示。他认为部署必须与相应的安全承诺相匹配。

一个安全席位，而不是一张 6000 万美元的空白支票

价值6000万美元的第二阶段遴选 属于 Prometheus 整体，且仍受国会拨款的制约。HiddenLayer 的新闻稿将公司描述为协作的贡献方；并未将整个金额表述为授予 HiddenLayer 的合同或奖金。

Idaho National Laboratory 于 7 月 22 日宣布了该入选，几乎在 HiddenLayer 确认参与前近四周。INL 将 Prometheus 描述为一个由 32 个合作伙伴组成的努力，涉及 Oak Ridge、Argonne 和 Sandia 国家实验室、学术机构以及 20 多家产业合作伙伴。已点名的参与者包括核能开发商 X-energy、TerraPower 和 Oklo。

INL 表示，该组织已筹集了超过 2 亿美元的行业成本分摊和 3000 万美元的行业资本，这些数字与潜在的联邦资金是分开的。

该项目是 Genesis Mission（DOE 旨在连接国家实验室计算、科学设施、AI 系统和专用数据集的尝试）下公布的首个第二阶段奖项。DOE 在 7月 表示，更广泛的使命已获得超过 8 亿美元的合作伙伴承诺，包括计算资源、云基础设施、模型访问、研究支持和直接资金。

Prometheus 的运作目标更为狭窄：在保留人工参与、技术审查和既定安全要求的同时，减少开发核能所需的时间和成本。这些目标为 HiddenLayer 提供了一个由政府主导的用例，模型行为、数据溯源和运行时活动需要被密切审查。

HiddenLayer 从能够接触到一个更难被视为仅仅是 AI 安全演示的政府主导用例中受益。Prometheus 将 AI 放置于受监管的科学与工程工作流之内，给予 Sestito 的团队一个在模型行为、数据溯源和运行时活动需要严格审查的场景中应用其产品的机会。

从 Cylance 攻击到核基础设施

Sestito 曾领导 Cylance 的威胁研究，后来在 Qualys 担任工程领导职务。Burns 和 Ballard 也曾在 Cylance、BlackBerry 和 Qualys 工作，拥有恶意软件研究、威胁分类和机器学习安全的背景。

创始人的第一个产品侧重于检测并响应针对机器学习模型的攻击，而无需访问底层训练数据或算法。当 HiddenLayer 在 2022 年 7 月从隐身状态出现 时，Sestito 表示团队是在帮助应对一次通过机器学习产品发起的攻击后创立公司的。

HiddenLayer 在该发布时筹集了约 600 万美元的种子轮资金。2023 年 9 月，它 完成了 5000 万美元的 A 轮融资，该轮由 M12（Microsoft 的风险基金）和 Moore Strategic Ventures 共同领投。Booz Allen Ventures、IBM Ventures、Capital One Ventures 和 Ten Eleven Ventures 也参与了投资。HiddenLayer 已公开宣布约 5600 万美元的总融资；尚未对这些轮次给出估值。

此后，HiddenLayer 已从最初的模型监控产品扩展。当前的 AI 安全平台 覆盖发现、供应链扫描、攻击模拟和针对预测性、生成性与代理系统的运行时防护。其 运行时文档 表示该软件监控模型输入与输出，并能够检测、编辑或阻止恶意内容。HiddenLayer 将更新的代理控制描述为重建多轮会话和工具调用，以便防御者可以将代理的活动作为一个连贯的序列进行检查。

这种广度很重要，因为 AI 安全已经成为更大型网络安全供应商整合的目标。Palo Alto Networks 于 2025 年 7 月完成了对 Protect AI 的收购，之后披露的收购对价为 6.345 亿美元。Protect AI 的模型扫描、红队测试和运行时能力现在整合在 Palo Alto 的 Prisma AIRS 产品中。Cisco 的投资者材料 表明该公司收购了 Robust Intelligence，并将其验证与运行时技术纳入 AI Defense。

HiddenLayer 仍然定位为独立的专业厂商，与那些更大的分发渠道竞争。Prometheus 为 Sestito 提供了另一条路径：成为嵌入定义如何测试与运营敏感 AI 系统的机构的一部分，而不仅仅通过传统企业安全销售来竞争。

工作从公告结束处开始

Prometheus 涵盖了若干非常不同的技术环境。扫描历史核能文档所面临的风险，与保护参与反应堆设计、燃料制造或运营决策支持的 AI 系统的风险不同。HiddenLayer 将不得不把一个广泛的平台诉求转化为适合每个工作流的控制措施，同时不阻碍 Prometheus 所承诺的人为审查。

该合作也提高了证据标准。在办公室聊天机器人中检测提示注入是一个熟悉的安全演示。证明同样的防御方法能够识别相关攻击、保持可审计性并在核工程约束范围内运行，将对政府和关键基础设施买家更具分量。

Sestito 在从事网络安全工作时遇到过一次对抗性 AI 攻击后创办了 HiddenLayer。四年后，Prometheus 为创始人在该国最受严格控制的技术领域之一内测试这一论点提供了一个场所。