HiddenLayer、DOEの6,000万ドルのPrometheusプロジェクトに参加し、原子力分野のAIの安全性を確保

Why it matters

Prometheus gives HiddenLayer a federal proving ground for AI security in regulated, safety-sensitive systems. The $60M supports the full consortium, but a credible nuclear deployment could strengthen HiddenLayer's position against larger cybersecurity platforms.

Chris Sestito は、HiddenLayer の元々の主張 — 機械学習システムには独自のセキュリティ制御が必要である — を米国の原子力エネルギー計画に持ち込んでいる。

オースティン拠点の AI セキュリティ企業 HiddenLayer は、8月18日の発表 の中で、Idaho National Laboratory が主導する Department of Energy のイニシアティブである Prometheus に貢献すると述べた。プロジェクトは、原子炉の設計、認可、製造、建設および運用に加え、核燃料の製造と既存文書の管理にわたって AI を活用する予定だ。

Sestito は 2022 年にチーフサイエンティストの Tanner Burns と CIO の Jim Ballard と共に HiddenLayer を創業した。3 人はサイバーセキュリティの分野で共に働いた後に会社を設立したとされる。HiddenLayer は、創業者らがサイバーセキュリティの現場で実際の敵対的 AI 攻撃に直面した経験から会社を立ち上げたと述べており、その経験が AI を企業固有の攻撃対象とするという確信を生んだという。

その出自は Prometheus における HiddenLayer の論理的な役割を説明する。原子力エネルギーは、AI セキュリティを難しくする二つの条件を兼ね備えている：予期しない方法で操作されうるシステムと、通常のソフトウェア障害でも異常に高い結果を招くインフラストラクチャだ。

「AI は科学的発見を加速し、重要産業を変革する巨大な可能性を持っている」と Sestito は発表で述べた。彼は、導入は同等の水準のセキュリティへのコミットメントと一致しなければならないと主張した。

A security seat, not a $60M check

$60 million Phase II selection は Prometheus 全体に帰属するものであり、議会の歳出決定の対象となる。HiddenLayer のリリースは、同社をコラボレーションへの貢献者として記述しており、全額を HiddenLayer への契約や賞として位置づけてはいない。

Idaho National Laboratory は選定を 7 月 22 日に発表しており、HiddenLayer が参加を公表するほぼ 4 週間前のことだった。INL は Prometheus を Oak Ridge、Argonne、Sandia の国立研究所、学術機関、20 を超える業界パートナーを含む 32 パートナーの取り組みとして説明している。参加が公表された組織には、核開発事業者の X-energy、TerraPower、Oklo が含まれる。

INL は、グループが業界のコストシェアで 2 億ドル超、業界資本で 3,000 万ドルを集めたと述べており、これらは見込みの連邦資金とは別の数字だ。

このプロジェクトは、Genesis Mission の下で発表された最初のフェーズ II 採択であり、Genesis Mission は国立研究所のコンピューティング、科学施設、AI システム、専門的データセットを結びつける DOE の試みである。DOE は7月 に、このより広いミッションが計算資源、クラウドインフラ、モデルアクセス、研究支援、直接資金を含む 8 億ドル超のパートナーコミットメントを確保したと述べた。

Prometheus の運用目標はより狭く設定されている：人的関与、技術的レビュー、確立された安全要件を維持しながら、原子力エネルギーの開発に必要な時間とコストを削減することだ。これらの目標は、モデルの挙動、データの出所、ランタイムでの活動が厳密に精査されることを必要とする政府主導のユースケースを HiddenLayer に与える。

HiddenLayer は、AI セキュリティの実証実験として片づけにくい政府主導のユースケースにアクセスできる点で利点を得ている。Prometheus は AI を規制された科学・工学のワークフロー内に位置づけるため、Sestito のチームはモデルの挙動、データの出所、ランタイムの活動が綿密に監視される場所で自社製品を適用する機会を得る。

From a Cylance attack to nuclear infrastructure

Sestito は以前 Cylance で脅威リサーチを率い、その後 Qualys でエンジニアリングの指導的役割を務めた。Burns と Ballard も Cylance、BlackBerry、Qualys での勤務経験があり、マルウェア研究、脅威分類、機械学習セキュリティのバックグラウンドを持つ。

創業者らの最初の製品は、基礎となるトレーニングデータやアルゴリズムへのアクセスを必要とせずに機械学習モデルに対する攻撃を検出・対応することに焦点を当てていた。HiddenLayer が2022年7月にステルスを脱して公表されたとき、Sestito はチームが機械学習製品を介した攻撃への対応を手伝ったことをきっかけに HiddenLayer を設立したと語っていた。

HiddenLayer はその立ち上げ時に約 600 万ドルのシードラウンドを調達した。2023 年 9 月には、M12（Microsoft のベンチャーファンド）と Moore Strategic Ventures が共同リードする形で5,000 万ドルのシリーズ A を調達した。Booz Allen Ventures、IBM Ventures、Capital One Ventures、Ten Eleven Ventures も参加した。HiddenLayer は公表ベースで約 5,600 万ドルの総調達を発表しているが、これらのラウンドに対する評価額は付していない。

その後 HiddenLayer は当初のモデル監視製品を超えて拡張した。現在のAI security platform は、発見、サプライチェーンスキャン、攻撃シミュレーション、予測型、生成型、エージェント型システム向けのランタイム保護を網羅する。公式のruntime documentation によれば、ソフトウェアはモデルの入力と出力を監視し、悪意のあるコンテンツを検出、編集、またはブロックできるという。HiddenLayer は、より新しいエージェント制御について、複数ターンのセッションやツール呼び出しを再構築してエージェントの活動を連続したシーケンスとして守備側が検査できるようにする、と説明している。

この幅広さは重要だ。AI セキュリティは大手サイバーセキュリティベンダーにとって統合のターゲットになっている。Palo Alto Networks は 2025 年 7 月に Protect AI の買収を完了し、後に 6.345 億ドルの購入対価を報告した。Protect AI のモデルスキャン、レッドチーミング、ランタイム機能は現在 Palo Alto の Prisma AIRS 製品群に組み込まれている。Cisco の投資家向け資料 は、同社が Robust Intelligence を買収し、その検証とランタイム技術を AI Defense に組み込んだと述べている。

HiddenLayer はこれら大手の流通チャネルに対する独立の専門家としての立ち位置を維持している。Prometheus は Sestito に別の道を提供する：従来のエンタープライズ向けセキュリティ販売だけで競うのではなく、機密性の高い AI システムの試験と運用の方法を定める機関に組み込まれることだ。

The work starts where the announcement ends

Prometheus は非常に異なる複数の技術的環境にまたがっている。過去の原子力文書のスキャンは、原子炉設計、燃料製造、運用上の意思決定支援に関わる AI システムを保護することとは別種のリスクを提示する。HiddenLayer は、幅広いプラットフォーム提案を各ワークフローに適合する制御へと翻訳し、Prometheus が約束する人的レビューを妨げないようにしなければならない。

この協力はまた、証拠の基準を引き上げる。オフィス用チャットボットに対するプロンプト注入を検出することはよくあるセキュリティの実演だ。同じ防御アプローチが関連する攻撃を特定し、監査可能性を維持し、原子力工学の制約内で動作することを示せれば、政府や重要インフラの買い手にはより大きな重みを持つだろう。

Sestito はサイバーセキュリティの現場で敵対的 AI 攻撃に遭遇したのをきっかけに HiddenLayer を始めた。4 年後、Prometheus は創業者らに、国内で最も厳格に管理された技術領域の一つの内部でその仮説を試す場を与えている。