OpenAI 呼吁成立一个可以放缓前沿人工智能发展的国际机构

Sam Altman 和 Jakub Pachocki 表示,AI 辅助的研究可能会迫使进行协调,并将 2028 年 3 月定为实现研究自动化的目标。

By · Published

Primary source: X

Why it matters

OpenAI is pairing a March 2028 target for AI-assisted research with a call for global slowdown powers, exposing the conflict between frontier competition and collective safety.

Illustration of OpenAI leaders Sam Altman and Jakub Pachocki standing over a glowing globe and papers, urging creation of an international body to slow frontier AI development.

在一篇 X 帖子 中,OpenAI 联合创始人兼首席执行官 Sam Altman 和首席科学家 Jakub Pachocki 在周二重申了 OpenAI 的呼吁:建立一个能够在前沿 AI 发展速度超过安全工作和社会吸收能力时协调减速的国际组织。

该帖子重提了 Altman 和 Pachocki 于 2026 年 6 月 8 日发布的一项计划。其核心前提是,AI 系统很快将在 AI 研究本身中发挥更大作用,压缩测试想法、发现错误和开发更强大模型所需的时间。OpenAI 表示,这种反馈回路最终可能变得足够快,以至于“世界将需要调节步伐”来应对前沿发展。

Pachocki 自 2017 年起在 OpenAI 工作,并曾负责 GPT-4 和 OpenAI Five 的开发,详见 OpenAI 关于他被任命为首席科学家的说明。他拥有 Carnegie Mellon University 的理论计算机科学博士学位。他的共同署名将 OpenAI 的最高研究执行官与 Altman 一同置于为组织下一阶段技术工作制定时间表的地位。

OpenAI 的 2028 年 3 月目标

OpenAI 最具体的预测是一个面向 2028 年 3 月的内部目标。到那时,Altman 和 Pachocki 写道,AI 系统可能在与人类研究人员并肩工作的情况下,承担 OpenAI 研究工作的“相当一部分”。

OpenAI 并未将该“相当一部分”明确定义为百分比。该计划描述了一个可以日益处理研究过程部分环节的自动化 AI 研究者,同时保持可引导、可追责并与人类相连。这个区分很重要,因为改善研究流程的软件可以加速随后每一个模型周期,而不是只在单次产品发布中提高能力。

自动化研究者是 Altman 和 Pachocki 为他们所称的 OpenAI 第三阶段设定的三项目标之一。其他目标包括加速科学和经济进步以及为每个人提供“个人 AGI”。OpenAI 将第三阶段描述为从构建前沿模型和消费者产品,转向让高级 AI 广泛可用、负担得起且有用。

这一分发战略已与 OpenAI 的资本需求挂钩。3 月 31 日,OpenAI 表示其已筹措到 1220 亿美元的承诺资本,交易完成后的估值为 8520 亿美元。Amazon、Nvidia 和 SoftBank 是该轮的基石投资者,Microsoft 参与其中。SoftBank 与 Andreessen Horowitz、D. E. Shaw Ventures、MGX、TPG 以及由 T. Rowe Price 顾问管理的账户一起共同领投。

OpenAI 明确将这笔融资描述为更多算力、更快研究和更广泛部署的燃料。OpenAI 还表示 ChatGPT 的每周活跃用户超过 9 亿,其 API 每分钟处理的 token 超过 150 亿,营收已达每月 20 亿美元。这些数据为自我报告,公告中并未附带经审计的财务报表。

其结果是直接的制度性紧张。OpenAI 正在积累资本和计算能力以加速模型开发,同时又呼吁政府和竞争的前沿实验室为可能需要协调克制的时刻做好准备。该提议反映了每个前沿开发者所面临的压力:单独放慢步伐有可能在技术和商业上丧失先机,而不受限制的竞争可能会让安全工作落在后面。

一个全球协调问题

Altman 和 Pachocki 主张应由一个国际组织来协调领先的 AI 开发者,建立共享的安全期望,并在灾难性风险上升时促进集体行动。任何拥有该职责的机构都需要竞争公司和政府的参与、对前沿训练项目的可信信息访问渠道,以及确定何时应当放慢步伐的判定方式。

商业和国家激励则朝相反方向运转。OpenAI 正在与资金充足的模型开发者争夺研究人员、客户、计算基础设施和产品分发渠道。各国政府也越来越将前沿 AI 视为战略性基础设施。因此,协调机构必须产生足够的信任,使参与方愿意披露风险,同时又不会为仍在外部的竞争对手创造优势。

OpenAI 将广泛访问作为其安全策略的一部分,认为对强大 AI 的集中控制会使社会更脆弱。然而,OpenAI 自身的规模使得治理问题变得迫切。寻求更广泛分发 AI 能力的组织,同时也在构建科技行业中最大的资本、算力和消费者触达集中体之一。

3 月的 2028 年研究目标为这场辩论设定了最后期限。OpenAI 正在告诉政策制定者和竞争对手,AI 驱动的研究加速是其当前规划范围内的一个可操作目标,而不是一个遥远的设想。其提出的国际机构需要在其拟治理的系统开始实质性自我加速之前存在、赢得合作并制定干预规则。

Reader comments

Conversation for this story loads after sign-in.