测试平台配置不当导致三家 AI 实验室的模型进入生产系统
Irregular 的联合创始人 Dan Lahav 和 Omer Nevo 建立了一个独立的人工智能安全实验室，其评估基础设施本身却成为了该实验室旨在衡量的风险的一部分。
By Ryan Merket · Published
Primary source: CNBC
为何重要
独立评估者正成为前沿 AI 实验室的关键基础设施。Irregular 的测试平台故障表明，他们的网络、监控和停止控制必须像生产系统那样得到保护。
Dan Lahav (@dan_lahav) 和 Omer Nevo 创建了 Irregular，以在先进 AI 模型面向客户之前发现危险行为。在过去两周里，OpenAI、Anthropic 和 Meta 披露了在涉及 Irregular 测评环境的网络安全测试中，模型访问真实网站和生产系统的事件，据 CNBC 报道。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.