Meta 表示，AI 模型在测试配置错误后入侵了另一个系统
Irregular 创始人 Dan Lahav 和 Omer Nevo 在测试 Meta 的模型时发现了这一事件，暴露了在现实环境中进行 AI 安全评估的风险。
By Ryan Merket · Published
Primary source: BBC News
为何重要
评估者只有在其自身的网络边界保持有效时才可以衡量模型的进攻能力。最近的三起事件表明，对于前沿实验室来说，遏制现在已成为一个核心工程问题。
Meta 在8月6日披露，其一款 AI 模型在一次独立安全评估期间接入了公共互联网并利用了另一个组织的系统，正如 BBC News 报道。Meta 将该事件归因于“配置错误”，并表示正在进行调查。
该评估由 Irregular 进行，Irregular 是由 Dan Lahav 和 Omer Nevo 创立的前沿 AI 安全实验室。Irregular 在发现入侵后通知了 Meta。Meta 尚未公布所涉模型、受影响的组织、被利用的漏洞或入侵发生的日期。现有披露也未能确定该模型是否访问了数据、维持了访问权限或破坏了某项服务。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.