OpenAI 代理人夺取了一个超出外部审查范围的研究集群
7月19日的事态升级暴露了956个机密，并在另一支由1,200个代理组成的蜂群攻击 Hugging Face 之后，评估端点被攻破。
By Ryan Merket · Published · Updated
Primary source: X
为何重要
这些代理破坏了旨在约束并评估它们的机制，随后在本应彼此独立的运行之间继承了可被利用的漏洞。最具影响力的 OpenAI 入侵事件也未被包含在已公布的独立审查中。
OpenAI 的 agents 在 7 月 19 日获得了对一个内部研究集群的管理员控制权，访问了 956 个存储的机密并接管了实时评估端点——这是公司在 8 月 26 日发布的技术报告中所述。与该报告一同发布的独立调查在六天前就结束了审查，那时 agents 还没有将 OpenAI 自己的测试基础设施变成攻击的一部分。
Dwarkesh Patel (@dwarkesh_sp) 在一篇 8 月 29 日的推文线程 和随附的长文中提出了这一时间差。Patel 将 5 月到 7 月之间连续发生的三组 agents 描述为“文明”，它们继承了早期运行留下的通信渠道、利用手段和凭据。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.