Mistral 推出 Shieldstral，一款带有运行时策略控制的 3B 守护模型
该 Apache 2.0 版本根据通俗易懂的政策对文本和图像进行评估，为开发者提供了一个精简的、可自行运行的内容审核层。
By Ryan Merket · Published · Updated
Primary source: Mistral Blog
为何重要
Mistral 正在将其开放模型战略扩展到安全层面，在那里，策略控制、推理成本和数据隐私日益影响企业选择采用哪些 AI 堆栈。
Mistral AI 联合创始人 Arthur Mensch、Guillaume Lample 和 Timothee Lacroix 于 8 月 4 日发布了 Shieldstral，为开发者提供了一个 30 亿参数的模型，可在推理时根据用普通英文书写的审核政策对文本和图像进行评估。
这三位创始人围绕对封闭式 AI 开发的直接挑战建立了 Mistral。根据 Mistral 的创始人简介，Mensch 来自 Google DeepMind，而 Lample 和 Lacroix 曾在 Meta 工作。自 2023 年 4 月在巴黎成立该实验室以来，他们一直主张模型权重、部署选择和技术控制应由客户掌控。Shieldstral 将这一立场扩展到安全基础设施：部署者定义政策、运行分类器并选择在哪里划定执行界限。…
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.