White Circle 在发现图像模型的安全防护措施仍然失效后将 RISE 开源
这家总部位于巴黎的 AI 安全公司报告称，DALL·E 3 的经人工验证攻击成功率为 13.3%，并且在另外两款更新的图像模型上该比率更高。
By Ryan Merket · Published
Primary source: X
为何重要
RISE 将 AI 红队演练中的测量问题具体化：攻击率取决于什么算作违规以及裁判如何校准。White Circle 的结果也表明，公开的非前沿模型可以探测商业图像防护措施，这加强了独立评估的理由，但仍未解决外部测试者如何获得持久访问权和独立性的问题。
White Circle 已将 RISE 开源，这是一个红队系统，用于搜索可重复使用的方法，使图像生成器绕过其安全防护。该公司表示，其测试在 DALL·E 3 以及来自 OpenAI 和 Google DeepMind 的较新模型上发现了经人工确认的禁用图像。其 在 X 上的公告 呼吁对 AI 模型进行独立的第三方监测。
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.