在发现软件漏洞后，Anthropic阻止了Mythos Preview的公开发布
Logan Graham 在纽约市议会的听证会上描述了这一决定；Anthropic 则通过 Project Glasswing 将该模型转交给经过审核的防御者。
By Ryan Merket · Published
Primary source: New York City Council
为何重要
Anthropic 对 Mythos 的决定使部署的权衡变得具体可见：漏洞发现可以增强防御方，而生成漏洞利用则会提高广泛访问的成本。委员会的听证会将这一选择与提出的外部验证和法律问责要求并列。
Anthropic 在 Claude Mythos Preview 在利用软件漏洞方面表现出异常能力后，将其保留，未予广泛发布，Frontier Red Team 负责人 Logan Graham 在 10 月 5 日的 纽约市议会直播 上表示。Graham 说，这一决定是在该模型显示出能利用漏洞之后做出的，并且“就发生在今年”。
被保留的模型是 Mythos Preview，Anthropic 在四月向公众介绍了该模型。“Held back from public release”一词描述的是对广泛访问的限制，而不是完全将模型内部化的决定：Anthropic 通过其网络安全计划 Project Glasswing 将其提供给选定的防御者和基础设施提供商。这个区别是公司论点的核心。Anthropic 表示，那种能够发现并利用缺陷的能力——可能会帮助攻击者——也可以被用于优先发现并修复这些缺陷。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.