OpenAI 把一个 250 人的安全“代码红”团队变成了一个“Defense Factory”
OpenAI 表示，代理在第一天关闭了 53 个紧急或高优先级的问题，随后帮助实现了分诊、验证和补丁修复的自动化。
By Ryan Merket · Published
Primary source: OpenAI on X
为何重要
OpenAI 正在将其内部安全流程打包成一套企业蓝图，同时扩大对 Daybreak 的访问权限。其赌注是，防御者能够比攻击者更快地使用前沿模型，而攻击者采纳同类工具的速度较慢。
OpenAI 已将一场由 250 人组成的内部安全冲刺转变为一套参考架构，使用 AI 代理持续发现、验证并修复软件漏洞。
OpenAI 在九月初发布了该蓝图，并在9月9日再次宣传，称其最新的网络模型发现了安全团队可能会错过的漏洞。OpenAI 将该项目称为一次内部的“code red”，召集其 Security、Applied 和 Research 团队检查了超过 100 个服务领域内的数百个系统。
由此产生的 “Defense Factory” 将 AI 代理连接到源代码控制平台、安全扫描器、问题跟踪器和隔离的开发环境。代理可以清点系统、扫描代码、测试疑似漏洞是否可被利用、将已确认的问题指派给负责人、准备补丁并验证已部署的修复。对于重要的变更和生产部署，人类仍保留审查权。
OpenAI 的主张是将安全工作持续化，而非周期性扫描。发现将自动触发调查，疑似重复项会被合并，可利用性会在一次性环境中进行测试，建议的修复附带支持性证据。该架构使用一个控制面进行编排、策略执行和凭据管理，另有一个数据面让代理能够在不直接在生产系统中运行的情况下重现问题。
OpenAI 测量了什么…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.