Anthropic 研究员辞职，称人工智能竞赛是在“拿我们的生命去赌博”
Coxon 表示，Anthropic 比 OpenAI 更负责任，但在与他人竞争以构建自我改进系统时，无法安全地自我监管。
By Ryan Merket · Published
Primary source: WIRED
为何重要
Anthropic 将安全作为竞争优势。Coxon 的离职表明，竞争可能迫使即使以安全为导向的实验室也去承担其自身研究人员称无法控制的风险。
Jacob Coxon (@hilbertspaess), 一位曾在 OpenAI 和 Anthropic 工作的预训练研究员，于周二从 Anthropic 辞职，并指责两家实验室在竞相开发能够自我改进的人工智能，却没有可信的方法将其置于人类控制之下。
Coxon 表示他在这两家公司间工作了三年。他的名字出现在 OpenAI 的 GPT-4o 系统卡和关于可解释神经网络的研究的贡献者名单中。根据 The Wall Street Journal 的报道，这位 27 岁的英国研究员在进入 AI 研究前学习过数学，并在今年早些时候从 OpenAI 转到 Anthropic，因为 Anthropic 在模型安全方面有较认真的声誉。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.