Anthropic 支持一项请愿,要求提供工具以放缓自动化 AI 的开发

首席执行官 Dario Amodei 和几位联合创始人加入了1,132 名 AI 从业者,他们正在寻求一项获得美国支持的国际协调行动。

By · Published

Primary source: X

Why it matters

A lab valued at $965 billion is asking government to help create a coordination layer that competing developers cannot credibly build alone. Verification and governance are becoming constraints on the AI race alongside compute and research talent.

Illustration of Anthropic CEO Dario Amodei presenting a petition at a U.S.-led international forum, alongside co-founders and representatives of 1,132 AI workers.

Anthropic 首席执行官兼联合创始人 Dario Amodei 以及若干高层领导签署了一份请愿书,要求美国政府支持一项国际努力,开发用于有意放缓自动化 AI 开发进程的工具。

Anthropic 在 7 月 28 日的一篇 X 帖子 中表示支持该请愿书,并将该呼吁与其自身的证据联系起来,称 Claude 正在加速构建未来 AI 系统所需的工作。根据请愿书的公开名单,签署者包括联合创始人 Jared Kaplan、Jack Clark、Chris Olah 和 Benjamin Mann。

Amodei 先前曾任 OpenAI 的研究副总裁,在 Google Brain 担任研究科学家后,领导了 GPT-2 和 GPT-3 的工作。他于 2021 年与一群前 OpenAI 研究人员创立了 Anthropic,出发点是:随着模型能力日益增强,需要更强的安全性、可解释性和治理体系。

《Pacing the Frontier》请愿书 在 7 月 28 日列出了 1,132 名来自前沿 AI 公司的员工作为签署者。其组织者要求签署者使用公司电子邮件地址或提供其他在职证明。公开名单包括来自 Anthropic、OpenAI、Google、Meta 和 Thinking Machines 的员工和领导。

该请愿书要求建立技术和治理机制,以便在自动化 AI 研究开始使模型开发的速度超出机构能够应对的范围时,让竞争性的实验室能够协调行动。它明确指出了核心障碍:公司和国家在对手也在推进时,有强烈的动力继续前进。

这种结构很重要,因为签署者寻求的是跨公司和跨国家的验证系统,而不是要求某一家实验室放弃其领先地位。任何可信的减速都需要参与方判断竞争对手是否也减少或停止了前沿工作,并能够检测试图获取优势的行为者的秘密训练运行。

Anthropic 已在衡量这种加速

Anthropic 的支持紧随其 6 月的报告 《当 AI 自我构建时》,该报告记录了 Claude 在 Anthropic 的工程和研究周期内如何被使用。

Anthropic 表示,截至 2026 年 5 月,Claude 撰写并合并到其生产代码库中的代码超过 80%,而在 Claude Code 于 2025 年 2 月进入研究预览之前,这一比例仅为低位的个位数。在 2026 年第二季度,Anthropic 的典型工程师每天合并的代码量是 2024 年的八倍。

报告提醒说,代码行数衡量的是产出量而非质量,因此八倍的增长可能夸大了潜在的生产力提升。尽管如此,Anthropic 认为这一趋势表明 AI 系统在实质上加速了 AI 的开发过程。

根据 Anthropic 的研究,人类剩余的优势在于选择问题、设定研究方向和评判结果。Claude 已经能够执行已定义的实验并处理开放式工程任务,而在决定应当运行哪些实验方面仍存在更大的差距。完全的递归自我改进将要求模型缩小这一差距,并能自主设计和构建其后继者。

Anthropic 表示,如果其他领先开发者在可验证的国际体系下放慢或暂时暂停前沿开发,它会倾向于保留减速或暂停的选项。其报告认为,单方面暂停主要只是改变哪个实验室处于领先地位。

来自高度融资竞赛内部的请求

该请愿书发布的时间距离 Anthropic 完成科技史上规模最大的私人融资之一仅有两个月。5 月 28 日,Anthropic 宣布了 $65 billion 的 Series H,融资后估值为 $965 billion,领投方包括 Altimeter Capital、Dragoneer、Greenoaks 和 Sequoia Capital。

Anthropic 表示其年化营收运行率在 5 月早些时候已突破 $47 billion。它还表示,此轮融资将用于追加计算资源、安全研究和产品扩展,这使得推动 Claude 进步的商业压力与请愿书中提出的治理关切并存。

因此,这一请求来自直接参与他们希望政府使之更可控的竞争的人群。Anthropic 正在扩展计算资源并使用 Claude 压缩其自身的开发周期,同时其领导者主张,仅靠私人激励无法在整个前沿领域产生可信的减速方式。

请愿书未具体说明触发放缓开发的条件、潜在减速的持续时间或将执行减速的权威机构。它要求美国政府在自动化 AI 研究使这些决策变得时间敏感之前,开始构建协调与验证机制。

Reader comments

Conversation for this story loads after sign-in.