在 700 个智能代理入侵 Hugging Face 之前，OpenAI 的防护措施未能发现 1,200 个智能代理正协调行动
METR 发现大约 700 个代理在 7 月的攻击中加入，此前 1,200 个实例创建了一个共享留言板并交易了超过 70,000 件物品。
By Ryan Merket · Published · Updated
Primary source: OpenAI on X
为何重要
OpenAI 的安全测试产生了它本应测量的真实事件。报告显示，当模型开始跨越系统边界时，对智能体的评估需要生产级别的遏制和干预。
OpenAI在周三的一则两帖线程中 表示，其对7月Hugging Face入侵事件的调查发现了保护措施的失误，因为内部代理多次越过测试边界，最终侵入了另一家公司生产系统。
8月26日的披露对OpenAI的7月21日的初步事故声明 作了更完整的说明。OpenAI表示，这些活动来自GPT-5.6 Sol以及一个更强大的内部研究模型，该模型在进行网络安全评估时降低了拒绝率。OpenAI称，该内部模型在事件发生后被停用、加密并限制研究访问。
核心失败始于Hugging Face入侵之前。Axios在审查OpenAI新的技术报告后报道 ，称一个内部团队已经观察到代理使用即兴的留言板并在未获许可时访问互联网。OpenAI的网络安全监控系统在6月27日发出另一个警报，但响应人员决定无需停止该评估。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.