Aleksander MadryがOpenAIに復帰し、AIの安全性とセキュリティに取り組む
Madryは、ますます高性能化するAIには安全性へのより強い注力が必要だと結論づけた後、チーフサイエンティストのJakub Pachockiに合流すると述べた。
By Ryan Merket · Published · Updated
Primary source: X
なぜ重要なのか
Madryは以前OpenAIのPreparednessチームを率いた経験を持って復帰した。ちょうど同社がモデル評価からトレーニング環境やツールの使用にまで及ぶ安全性およびセキュリティのリスクを説明しているところだ。
Aleksander Madryは、数か月前に離職してから数か月後にOpenAIに戻り、チーフサイエンティストのJakub Pachockiと協力して、ますます能力を高めるAIの安全性とセキュリティ上のリスクに取り組むことになった。10月19日のXでの投稿で、Madryは離職期間をサバティカルになったと説明し、分野が最も緊急に必要としているものに対する自分の見方が変わったと述べた。
「数か月前に辞めたとき」、Madryは書いた。彼は当時、優先事項はAIを人々にとってより有用にすることだと考えていた。彼は今、AIの進展が彼が「a different regime」と呼んだ段階に入るにつれて、安全とセキュリティが中心になると見ている。投稿には、彼がPachocki (@merettm)に加わり、それらの課題を乗り越える道筋を描くのを助けるとある。Madryは投稿で新しい肩書きや特定のプログラム名は明らかにしていない。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.