Cisco Talos 发现恶意软件服从由四个模型组成的委员会的指令
Ryan Fetterman 的开源 CAIRN 披露了 CLOSEDQUORUM —— 一个 Windows 植入程序，其 AI 投票循环已被确认，但尚未发现实际攻击。
By RuntimeWire Staff · Published
Primary source: Cisco Talos
为何重要
CAIRN 为防御者提供了一种方式，可以在自主恶意软件广泛出现之前追踪特定于 AI 的痕迹，而 CLOSEDQUORUM 则表明，受限的攻击决策已经可以交给商业模型处理。
Cisco Talos 于 9 月 22 日发布了 CAIRN，为安全研究人员提供了一个开源框架，用于发现开始留下新类别指纹的恶意软件：提示词、模型端点、API 密钥模式和工具调用指令。该项目的首个发现是一个将战术决策委托给由四个大型语言模型组成的小组的 Windows 植入程序。
安全研究员 Ryan Fetterman 主导了 CAIRN 的开发，CAIRN 是 Cognitive Artifact Intelligence Research Network 的缩写。该名称指的是用来标记小径的石堆。Fetterman 的前提出于：当恶意软件开发者将 AI 服务接入其代码时，也会留下标记，即使调查人员无法安全地下载或执行底层二进制文件。
Fetterman 先前领导过 Splunk 的 SURGe 安全研究小组，联合创建了 PEAK Threat Hunting Framework，并担任过 "The Threat Hunter's Cookbook" 的首席作者。他对 CAIRN 的工作始于一个看起来过于微小的发现。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.