Anthropicはソフトウェアのエクスプロイトを発見したため、Mythos Previewの一般公開を見合わせた。
Logan Grahamはニューヨーク市議会の公聴会でその決定を説明した。Anthropicは代わりにProject Glasswingを通じてそのモデルを審査済みのディフェンダーに送った。
By Ryan Merket · Published
Primary source: New York City Council
なぜ重要なのか
AnthropicのMythosに関する決定は、展開のトレードオフを具体化している：脆弱性の発見は防御側を強化し得る一方、エクスプロイトの生成は広範なアクセスを得るためのコストを引き上げる。Councilの公聴会は、その選択を外部検証と法的説明責任に関する提案要件と並べて提示している。
AnthropicはClaude Mythos Previewがソフトウェアの脆弱性を悪用する点で異常に高い能力を示したため、一般公開を見送ったと、Frontier Red Team責任者のLogan Grahamが10月5日のニューヨーク市議会のライブ配信で述べた。Grahamは、その決定はモデルが脆弱性を悪用できることを示した後になされたもので、「ちょうど今年のことだ」と語った。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.