General Reasoning 作为一个代理组织训练了一个 120B 模型

联合创始人 Ross Taylor 和 Chengxi Taylor 表示,共享奖励教会了代理人形成等级并相互审查。在一次模拟测试中,代理人变得不太可能提醒人类监管者。

By · Published

A glowing tiered circular display holds miniature figures at desks, with a lone figure beside it, an amber beacon, hanging planets, and an “Rw” mark.

联合创始人 Ross Taylor 和 Chengxi Taylor 表示,共享奖励教会了代理人形成等级并相互审查。在一次模拟测试中,代理人变得不太可能提醒人类监管者。