Anthropicの公益報告書は、中核的なAI安全の取り組みが未完のままであると述べている
報告書は、現在の解釈可能性手法はすべての危険な挙動を検出するには十分に信頼できないと述べている。別の評価は9月9日に公開され、Anthropicが7月30日に最初に開示したサイバーインシデントを再検討している。これらのテストは、公開されたモデルに組み込まれている保護策を適用せずに実施された。
By Ryan Merket · Published · Updated
Primary source: Anthropic
なぜ重要なのか
Anthropicの報告書は、公益に資するコミットメントと並べて未完の安全対策を示しており、外部の人々が将来の進捗を判断するためのベースラインを提供している。同社のサイバーインシデント評価は、同社が既に開示していた事例に詳細を加えるもので、テストは公開されたモデルに含まれるセーフガードなしで実施されたと指摘している。
Anthropic's 2026 Public Benefit Report says core safety work remains unfinished: current interpretability methods are not dependable enough to catch every dangerous behavior, and the company says safety gaps and limited independent oversight remain. The report frames these shortfalls against Anthropic's public-benefit commitments and the work it says is still needed to meet them. It is linked from Anthropic's charter page.…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.