OpenAI、重要なサイバー能力を評価するため、Astraの一部作業を一時停止
OpenAIの未発表モデルはサイバー分野で高い性能を示し、OpenAIが評価を続ける間、隔離テストと全社的な監視を促した。
By Ryan Merket · Published
Primary source: CNBC
なぜ重要なのか
Astraは、最先端のAI開発者が、潜在的に危険な能力の評価が未解決のままである間、作業を遅らせ、テストを隔離し、展開を制限できるかどうかを検証する。
OpenAI、共同創設者でCEOのSam Altman (@sama)が率いる同社は、予備評価の結果、同AI開発者が自社の安全フレームワークの下でCriticalというサイバー能力レベルを否定できなくなったため、Astraに関する社内の一部活動を停止した。
OpenAI disclosed the decision on August 7th。未発売のモデルであるAstraは予備評価で十分に強い性能を示し、OpenAIはCriticalの閾値を排除できなかった。CNBC reported on August 10thは、OpenAIがモデルのテストを継続しつつ一部の社内活動を停止したと報じた。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.