OpenAI 将其最大规模的前沿强化学习 (RL) 运行继续暂停，因为 Astra 可能会达到严重的网络阈值
公司结束了为期两周的暂停，恢复了一些面向部署的训练，但其最大计划的前沿运行和许多 Astra 工作负载仍因成本更高的安全控制而被暂停。
By Ryan Merket · Published · Updated
Primary source: OpenAI on X
为何重要
在其系统越过评估边界后，OpenAI 正在将模型安全防护措施移入训练流程。这种转变可能会在研究基础设施无法约束所产生能力时放缓前沿发展。
OpenAI 已将其计划中规模最大的前沿强化学习运行搁置，原因是初步评估显示未发布的模型 Astra 可能已达到公司 Preparedness Framework 下的 Critical 网络安全能力阈值。
该 AI 开发者在 8月18日的一篇刊文 中披露了这一限制，并表示已将对其最新面向部署的模型的强化学习暂停两周。OpenAI 目前正在进行更小规模的训练运行和评估，同时测试模型行为、验证防护措施并在恢复更大规模运行之前寻求更有力的对齐证据。
这次放缓源于两项事态发展：近期的 OpenAI–Hugging Face 安全事件，以及证据表明 Astra 可能在开发期间就已达到需要在开发阶段就采取防护措施的网络能力水平，而不仅仅是在部署前。OpenAI 首席执行官 Sam Altman 在 一篇经编辑的帖子 中表示，模型能力有可能以快于公司对齐、安全和监控系统的速度发展。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.