Anthropic 向六名 METR 员工提供内部访问权限，以评估前沿人工智能风险
在10月15日宣布的这项安排允许该非营利组织发布带有有限删节的风险评估。次日另一篇 POLITICO 报道称，Anthropic 向立法者推介一项 AI 安全法案草案，但未注明该推介发生的日期。
By RuntimeWire Staff · Published · Updated
Primary source: Bloomberg Technology
为何重要
Anthropic 的既定 METR 安排将一名独立评估员置于公司内部，赋予其发布权利，而该草案则会将评估员纳入联邦登记和报告系统。两者的区别直接关系到谁来制定评估条款，以及政府官员多快会得知某项特定风险。
Anthropic 已向 METR，一家对前沿 AI 模型进行评估的非营利组织 的六名员工提供了公司硬件、办公空间以及对内部工具和系统的访问权限，据其 10月15日的公告 所述。METR 将发布对 Anthropic 模型风险、事件和做法的评估。Anthropic 表示其不能否决发布，尽管可以在有限类别中要求进行删节，包括客户数据和有关模型架构的信息。
这一安排是自愿的。它为一个小型的 METR 团队提供了大致相当于 Anthropic 自身风险评估人员的访问权限，同时由评估方负责发布其发现。Anthropic 表示该团队在可执行的协议下运作，且其他 METR 员工与其工作分离。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.