Anthropicの研究者が辞職し、AI競争は「私たちの命を賭けたギャンブルだ」と述べる
Coxonは、AnthropicはOpenAIよりも責任感があるが、自己改善するシステムを構築するために競争している間は自らを安全に監視することはできないと述べている。
By Ryan Merket · Published
Primary source: WIRED
なぜ重要なのか
Anthropicは安全性を競争優位として売りにしている。Coxonの退社は、競争が、安全性を掲げる研究所であっても、研究者自身が制御できないと述べるようなリスクに追い込む可能性があることを示している。
Jacob Coxon (@hilbertspaess)、OpenAI と Anthropic でプレトレーニング研究に携わった研究者は火曜日に Anthropic を辞職し、両研究所が人間の管理下に置くための信頼できる方法なしに自己改善する AI に突き進んでいると非難した。
Coxon は両社で合計三年間働いたと述べた。彼の名前は OpenAI の GPT-4o システムカードの寄稿者の一人として、また可解釈なニューラルネットワークに関する研究にも挙がっている。ウォール・ストリート・ジャーナルによると、この27歳の英国人研究者は AI 研究に入る前に数学を学び、Anthropic がモデルの安全性を重視する評判を持っていたため今年初めに OpenAI から Anthropic に移ったという。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.