Microsoft 的 Satya Nadella 提议为 AI 模型设立紧急刹车
在10月10日的一篇文章中，他主张公司应将模型的智能与对其行为的权限和控制分开。
By Ryan Merket · Published
Primary source: X
为何重要
Nadella 的提议将企业 AI 风险置于模型周围的系统中：权限、审计跟踪、测试和人工控制。这把工作重点转向能够在公司将代理连接到敏感数据和工具时约束并检查这些代理的基础设施。
Satya Nadella (@satyanadella)，Microsoft（微软）的董事长兼首席执行官，在一篇X 帖文发表于10月10日中主张，公司应将强大的 AI 模型视为有特权的内部人员：假定它们可能被攻破，限制它们能做的事，并保持有人能够在任务进行中随时停止它们。
他随附的论文“超级智能时代：模型作为内部风险”提出了一个企业控制提案，而不是产品发布。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.