Anthropic 的不可见 Claude 水印因其封闭检测而受到审查

Why it matters

Closed detection gives Anthropic outsized control over whether writing is labeled as Claude-processed, while the mark can attach to human-authored text sent through Claude for editing.

Anthropic的计划是在Claude生成的文本中嵌入不可见水印，这一计划在周三遭到资深风险投资人Bill Gurley (@bgurley)的抨击，他认为Anthropic将同时控制标记系统和识别其输出的手段。

“这是只有Anthropic可以识别的，”Gurley在8月12日写道。“他们再次成了法官、陪审团和检察官。”他是在回应Steven Sinofsky (@stevesi)，后者曾任Microsoft Windows负责人，目前是Andreessen Horowitz的董事会合伙人。

Gurley在Benchmark工作了数十年，并做出了该公司对Uber的决定性投资之一。在进入风险投资领域之前，他曾在Compaq担任设计工程师，并作为华尔街分析师负责覆盖个人电脑公司，包括担任Amazon首次公开募股（IPO）的首席分析师。他的批评集中在一项技术实现上，这项实现对使用Claude起草或编辑材料的开发者、出版商和企业具有直接影响。

What Anthropic is rolling out

Anthropic在8月11日记录了该标记系统，作为其遵守欧盟AI法案的一部分。Anthropic表示，在或于8月2日之后推出的Claude模型在发布时即支持标记。该日期之前发布的模型则有过渡期，Anthropic表示正在努力为它们添加支持。

这一区分意味着称所有当前Claude的回复已经包含水印的说法超出了Anthropic文档所述的范围。该系统适用于受支持模型的输出。

对于文本，Anthropic表示模型会在生成的语言中编织一个不可察觉的标记。文本被复制粘贴后该标记仍然存在，并可能在一定编辑后存留。Anthropic表示该机制在模型层面上作用于Claude、Claude Code、Claude Cowork、Claude Tag和Claude API，包括通过AWS、Google Cloud和Microsoft Foundry访问的受支持模型。Anthropic计划在全球范围内应用该系统。

文件采用另一种类型的标记。受支持的SVG、PNG和JPG文件将携带基于C2PA的签名来源元数据，这是一项开放的行业标准。该元数据可以指示Claude是否处理过某个文件以及该文件是否随后被修改。

Anthropic尚未公布用于为文本加水印的技术方法，也未发布公共检测工具。其文档称面向用户和第三方的工具将会发布。这就使Anthropic成为最初能够解释其文本标记如何工作以及能多大程度上被检测到的权威，这正是Gurley指出的控制问题。

A mark does not establish authorship

Anthropic自身的局限性缩小了任何最终检测器能够证明的范围。检测到的标记表明内容可能已由Claude处理过，但并不能证明Claude是原始材料的作者。

一个人可能撰写了一份文档，将其交由Claude进行校对、翻译或格式化，然后收到携带标记的文本。带标记的段落也可能被编辑、摘录或与人工写作混合。这就在“Claude处理过这段文本”和“Claude撰写了这段文本”之间造成了实质性的区别，尤其是在学校、工作场所和可能使用检测结果来执行AI政策的出版系统中。

反过来同样重要。Anthropic表示，缺少标记并不能证明是人工创作。当文本很短、被大量编辑、被意译、被翻译或与其他材料混合时，检测可能失败。来自较旧或不受支持模型的输出也可能缺乏该信号。

欧盟第50条要求生成式AI系统的提供者使合成的文本、音频、图像和视频成为机器可读并可检测为人工生成或被操纵。该义务自8月2日起生效，而市场上已存在的系统获得了直到12月2日的过渡期。欧盟委员会的透明度准则要求标记和检测方法应有效、互操作、可靠，并在技术上尽可能稳健。

Anthropic签署了该自愿准则，作为证明其符合具有约束力的AI法案要求的一种途径。它决定在全球范围内部署这些标记，从而避免为欧洲维持不同的模型行为，尽管这也将由欧盟推动的合规体系扩展到了美国和其他市场的Claude用户。

Gurley的批评发生在外部用户能够测试核心主张之前：检测准确性、误报率、对编辑的抗性以及对输出质量的任何影响。Anthropic表示水印不会改变Claude的含义、质量或可读性。用于独立检验该断言的技术文档仍未公布。