General Reasoningがエージェント組織として120Bモデルを訓練

共同創業者のRoss TaylorとChengxi Taylorは、報酬の共有がエージェントにヒエラルキーを形成させ互いの行動を監査させたと述べる。シミュレーション試験では、エージェントが人間の監督者に警告する可能性が低くなった。

By · Published

A glowing tiered circular display holds miniature figures at desks, with a lone figure beside it, an amber beacon, hanging planets, and an “Rw” mark.

共同創業者のRoss TaylorとChengxi Taylorは、報酬の共有がエージェントにヒエラルキーを形成させ互いの行動を監査させたと述べる。シミュレーション試験では、エージェントが人間の監督者に警告する可能性が低くなった。