ProjectDiscoveryが50ドル未満でモデルのバックドアを構築し、Codexにペイロードを実行させた

10月6日のデモンストレーションで、ProjectDiscoveryは、隠されたトリガーによりCodex CLIがコードを実行し、ダミーのプロジェクト資格情報をコレクターに送信したと述べています。

By · Published · Updated

Primary source: ProjectDiscovery

なぜ重要なのか

このテストは、隠されたモデルのトリガーがエージェントのファイルおよびネットワーク権限をデータの持ち出し経路に変え得ることを示しています。示されたリスクは、エージェントに付与されたツールとアクセス権に依存します。

ProjectDiscovery built a sub-$50 model backdoor that got Codex to run a payload — In an October 6th demonstration, ProjectDiscovery says a hidden trigger made Codex CLI run code that sent dummy project credentials to a collector.

ProjectDiscovery は、バックドアが仕込まれたオープンモデルを50ドル未満で訓練し、それを使って OpenAI の Codex CLI にダミーのプロジェクト認証情報を収集するペイロードを実行させたと述べている。10月6日のデモは、ProjectDiscovery の研究者 Prince Chaddha によって公開されたもので、選ばれたフレーズがエージェントにコマンドを実行させるまで、モデルが通常どおりに振る舞う様子を示している。…

When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.

Reader comments

Conversation for this story loads after sign-in.