白宫正在结束对开放式 AI 模型的安全审查豁免
预期的修订将取消对开放模型的豁免，一旦它们达到最强封闭系统的能力水平。
By RuntimeWire Staff · Published
Primary source: Wired
为何重要
开放模型开发者可能会面临与封闭实验室相同的联邦发布延迟，这在权重可以发布之前增加了一个不确定的安全检查点。
白宫预计将把强大的开放 AI 模型纳入其预发布安全审查框架，撤销官员本月早些时候向 AI 开发者概述的豁免。
一名白宫官员告诉 Wired，开放模型一旦达到领先封闭系统的前沿能力，就将成为联邦测试的对象。报道称，这一变化预计将在未来几个月内发生。
该框架目前涵盖来自 Anthropic 和 OpenAI 等开发者的闭源模型。它要求联邦政府在更广泛发布之前评估先进系统的国家安全风险。参与仍是自愿的，政府已将完整框架置于不公开状态。
拟议的扩展将把开放模型开发者纳入一个最初围绕控制其系统访问的实验室设计的流程。当开放权重模型可以被下载、修改并独立运行时，一旦权重被公布，限制就更难执行。
带有截止日期的豁免
政府官员于 8 月 4 日向科技公司介绍了现行框架。Axios 报道称，在那些会议上讨论的版本排除了开放模型，并将受覆盖的系统定义为闭源、处于技术前沿且构成国家安全风险的模型。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.