OpenAI、Anthropic、Googleがクロスモデル推論攻撃を阻止した

その攻撃は、より性能の低い同系列のモデルをデコーダーとして用い、プロバイダーがそれをブロックする前に公開されたエージェントのログに資格情報を露出させた。

By · Published

Primary source: arXiv

なぜ重要なのか

エージェント開発者は不透明な推論フィールドを保持して公開しても安全だと扱ってきた。本論文は、これらのブロックが抽出可能な認証情報や隠れた指示を含み得ることを示している。

Illustration of OpenAI, Anthropic and Google blocking a cross-model reasoning attack that exposed credentials in public agent logs.

Alexander Panfilov (@kotekjedi_ml), David Schmotz and Ilia Shumailov (@iliaishacked)は、OpenAI、Anthropic、Googleのモデルが生成した暗号化された推論を復元する方法を見つけたと、8月10日に投稿された論文が報告している。

…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.