Anthropic 详述针对人工智能模型蒸馏攻击的新防御措施
这些措施包括账户检测、推理安全措施和更严格的访问控制，此前 Anthropic 表示竞争对手实验室利用数百万次 Claude 交互来训练模型。
By Ryan Merket · Published
Primary source: X
为何重要
前沿模型的 API 可能成为竞争对手的间接训练管道。Anthropic 的应对表明，这场新兴的斗争正从封禁账号扩展到对推理痕迹和模型输出的控制，但更强的防御也有可能影响合法开发者使用该 API 的方式。
Anthropic 表示，过去几个月在使 Claude 更难被用于未经授权的模型训练方面取得了进展，并在报告涉及竞争 AI 实验室的大规模提取行动后，描述了一套分层防御措施。公司在一篇10 月 12 日在 X 上的帖子和一篇关于其防御的研究文章中总结了这些工作。
这些措施针对的是未经授权的用户如何获取 Claude 的响应以及这些响应作为训练数据的有用性。Anthropic 表示，其防御包括识别协调提取模式的行为分类器、账户关联和指纹识别、针对被滥用访问路径的更严格身份检查，以及对产品、API 和模型的更改。其二月披露还描述了与其他 AI 实验室、云提供商和当局共享技术指示器的做法。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.