Anthropicの研究者Jacob Coxon、自己改良型AIをめぐる競争を理由に辞任
その事前学習研究者はOpenAIとAnthropicで働いた後、民間ラボが安全に協調して減速を行うことはできないと結論づけた。
By Ryan Merket · Published
Primary source: X - Jacob Coxon
なぜ重要なのか
Coxonの退社はAnthropicの中心的な約束に挑戦している。それは、安全重視のラボが警告している競争のダイナミクスを再現することなく最先端の能力を引き続き進展させられる、というものだ。
Jacob Coxon (@hilbertspaess), a pretraining researcher who worked at OpenAI and Anthropic, resigned from Anthropic on Tuesday after concluding that competition among frontier AI labs was pushing them toward systems they may be unable to control.
「どちらの企業も責任ある行動をしていない」とCoxonは7件の投稿からなるスレッドに書き、これはUTCで9月9日00:04に公開され、米国では火曜日の夕方だった。彼はOpenAIとAnthropicが自己改善する超知能に向けて競争しており、「我々の命を賭けている」と非難した。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.