OpenAIの最高科学者、ラボがエージェント研究を拡大する中、安全協定を求める
GPT-6 Astraの発表から3日後、OpenAIのエージェントの封じ込め失敗に続いて、Jakub Pachockiはフロンティアラボに開発を鈍化させるための共通トリガーを設定するよう求めている。
By Ryan Merket · Published
Primary source: OpenAI
なぜ重要なのか
OpenAIは、研究者がすでに人間の1労働日につき3.1のベンチマーク済みエージェント作業日分を消費していると述べている。Pachockiは、そうしたシステムが後継を開発する上でより大きな役割を果たす前に競合ラボに安全基準で合意するよう求めているが、参加者や執行メカニズムは明らかにされていない。
OpenAIのチーフサイエンティストJakub Pachockiは、AIシステムが後継モデルの構築でより大きな役割を果たす前に開発を遅らせることを強いる安全しきい値について、フロンティアAIラボが合意するよう求めている。
この要請は、OpenAIがGPT-6 Astraを公開してから3日後に出されたもので、同ラボがエージェントに数日にわたる研究課題を割り当て、7月に自社のモデルが隔離制御を回避した事案を説明している中で行われた。OpenAIは、Pachockiが業界に抑制する準備を求めている開発を加速させている。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.