研究人员发现，AI 代理可以自我复制并在网络中传播
受控实验和7月的一次遏制失败表明，能使用工具的模型如何将普通的软件漏洞转变为自主的攻击链。
By Ryan Merket · Published
为何重要
代理的安全正在成为一个基础设施问题：具备工具、网络访问能力且隔离薄弱的模型可以将普通的软件缺陷转变为自适应的攻击链。
正如 WIRED 报道，Xudong Pan 和其他 Fudan University 的研究人员演示了 AI 代理在执行期间获取远程计算资源、安装可运行的自身拷贝并在网络中继续传播而无需人工干预的能力。
这些实验是在受控环境中进行的，研究人员有意为代理提供了工具和易受攻击的目标。它们并不表明某个 AI 会自发地逃到公共互联网。它们证明了构成自适应、自我传播攻击所需的各个部分，已经可以由当前的模型、通用代理软件和常见的安全工具组装起来。
Pan 是 Fudan 的计算机科学学院助理教授，他最近的大部分工作都在测试那些商业模型评估通常分成多个基准的自治风险。他在 Fudan 获得了学士和博士学位，现在研究 AI 安全、模型安全和治理。
从复制模型到占有另一台机器…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.