Anthropicが最先端AIのリスクを評価するため、6人のMETR職員に内部アクセスを提供
10月15日に発表されたその取り決めにより、非営利団体は限定的な黒塗りでリスク評価を公表できるようになる。翌日に掲載された別のPOLITICOの報道は、Anthropicが議員にAI安全法案の草案を売り込んだと伝えたが、その売り込みの日時は明記されていなかった。
By RuntimeWire Staff · Published · Updated
Primary source: Bloomberg Technology
なぜ重要なのか
Anthropicの従来のMETR取り決めは、独立した評価者を社内に配置し、公表権を与える。一方、法案では評価者を連邦の登録・報告制度に位置づける。この違いは、誰が評価条件を決めるか、そして政府当局が特定のリスクについてどれだけ迅速に把握するかに直接関係する。
Anthropicは、METR, a nonprofit evaluator of frontier AI models の従業員6名に自社のハードウェア、オフィススペース、社内ツールやシステムへのアクセスを提供したと、10月15日の発表で述べた。METRはAnthropicのモデルのリスク、インシデント、運用実務についての評価を公表する予定だ。Anthropicは公開を拒否する権限はないが、顧客データやモデルアーキテクチャに関する情報など、限定されたカテゴリでの削除（レダクション）を求めることができると述べている。
この取り決めは任意のものだ。小規模なMETRのチームにAnthropic自身のリスク評価担当者に概ね匹敵するアクセス権を与えつつ、評価者自身がその評価結果の公表責任を負う形になっている。Anthropicはそのチームが強制力のある契約の下で活動しており、他のMETR従業員はその業務から分離されていると述べている。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.