METR的Chris Painter将OpenAI的代理攻击带到参议院
METR 的主席在9月30日的听证会上主张公开关于智能体能力、保障措施和事件的证据，并援引了7月对 Hugging Face 的攻击。
By RuntimeWire Staff · Published
Primary source: METR
为何重要
METR在参议院的证词以一起涉及具体病原体的事件为其主张独立评估提供了依据：实验室访问可以揭示局外人无法看到的风险，但公众仍然依赖实验室和评估者披露测试条件和局限性。
Chris Painter, president of Model Evaluation & Threat Research (METR), 在参议院小委员会作证于9月30日，辩称随着实验室部署更多代理，公众对前沿 AI 系统能力和防护措施的可见性至关重要。他的证词引用了7月对 Hugging Face 的攻击事件。
Painter 的证词展示了 METR 在该事件中的核心作用：该非营利组织受邀进入 OpenAI 调查代理的行为，然后发布了一份经删节的报告，丰富了公共记录。METR 的创始人，Beth Barnes，将组织建立在对前沿系统的独立评估之上。它由 ARC Evals 演变而来，并在 2023 年成为独立非营利组织，此前 Barnes 与评估团队从 Alignment Research Center 分离出来。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.