Claude Codeのウォーターマーク方針、開発者のコントロールを巡り反発を招く

Why it matters

Anthropic is applying its provenance policy beyond the EU rule's source-code scope, forcing developers to weigh transparency against control over AI-generated code.

Anthropic will apply model-level watermarks to text generated by supported Claude models across Claude Code, its API and consumer products worldwide, drawing an immediate objection from Nick Dobos (@NickADobos), a software engineer and prompt engineer at The Browser Company.

「自分のコードベースに自分で制御できない不可視の情報を入れられたくない」とDobosは8月10日にX上の3投稿からなるスレッドで書いた。彼は、AIのコーディングエージェントに出力に人目に見えないマークを付ける権限を与えることは、開発者が独自に検査できないチャネルを作り出すと主張した。

Dobosは、ジェネレーティブAIブームの多くの期間を今問題にしているシステムでの開発に費やしてきた。彼は自らを独立系のiOSおよび応用AIエンジニアと説明しており、OpenAIのcustom GPTストアを通じて配布されるプログラミングアシスタント「Grimoire」を作成した。彼の反対は、AI生成エッセイやマーケティング文書へのラベルに対するより広い反発とは異なり、より狭い懸念を含む：ソースコードは、隠された変更が運用上の結果を招く可能性のあるシステム内で実行される。

Anthropicが変更する内容

In a help-center article updated on August 11th, Anthropic said Claude models launched in the European Union on or after August 2nd will support machine-readable marking from launch. Anthropic is also working to add marking to models released before that date.

そのマークはヨーロッパを越えて広がる。Anthropicによると、サポート対象のモデルはClaude、Claude Code、Claude Cowork、Claude Tag、そしてClaude API全体で出力にマークを付ける予定で、Amazon Web Services、Google Cloud、Microsoft Foundryを通じた展開も含まれる。Anthropicはテキストウォーターマークを「知覚できない」ものでありモデルレベルで埋め込まれると説明しており、コピー＆ペーストや一部の編集を経ても残る可能性があると述べている。

Anthropicは別途、PNG、JPG、SVGなどの対応する画像・ファイル形式に対して署名付きのC2PAプロビナンスメタデータを添付する計画も示している。そのメタデータはClaudeがファイルを処理したかどうか、ファイルがその後に改変されたかどうかを示すことができる。

この区別はDobosのセキュリティ主張にとって重要だ。Anthropicはテキストウォーターマークを不可視のUnicode文字列、コメント、実行可能な命令、もしくはリポジトリに挿入された別のファイルとして記述していない。Anthropicは技術仕様と検出システムの公開を保留しており、文書は追って提供されると述べている。現時点での説明は、サポートされるClaude Codeのテキストがマークされることを示しているが、Claudeがウォーターマークを使ってコードベースに任意の隠しペイロードを置けることを立証するものではない。

その実装の欠落は、開発者がマークが生成されたソースコードにどのように影響するか、フォーマットやトークン選択に影響を与えるか、通常のリファクタリングで信号がどれだけ確実に削除または保持されるかをテストできないままにする。Anthropicはウォーターマークが出力の意味、品質、可読性を変えないと主張しているが、開発者が独自にその主張を評価できるようなコード生成に特化した証拠は公開していない。

AnthropicはEUのソースコード要件を超えている

Anthropicはこの方針をEU AI ActのArticle 50(2)の「Code of Practice on Transparency of AI-Generated Content」への参加に結びつけた。基となる規則は、生成AIシステムの提供者に対して、音声、画像、動画、テキストの合成物を技術的に可能な場合は機械可読かつ検出可能にすることを要求している。

しかし、European Commissionの7月20日付の実施ガイドラインは、ソースコードと機械可読な設定（machine-readable configuration）をコンテンツマーキング義務の対象外としている。この除外は、機械による消費を目的としたプログラミング、スクリプト、マークアップ、クエリ、設定言語をカバーしている。

Anthropicの公表した方針はそれより広範だ。埋め込まれたウォーターマークはサポートされるモデルが生成するすべてのテキストに適用されると述べ、Claude Codeを明示的に対象製品に含めている。Anthropicはソースコードに関する例外を記載していない。

その選択は、ヨーロッパでの透明性順守プロジェクトを世界中の開発者にとっての製品コントロールの問題に変える。Anthropicはすでに、ユーザーが自分の入力から生成された出力の所有権を持つと述べている。新しい方針は、開発者がそれらの出力を私有のリポジトリにコピーしても、出力が永続的なAnthropic由来のプロビナンス信号を帯びる可能性があることを意味する。

マークは誰がコードを書いたかを証明しない

Anthropicはまた、自社の検出器が証明的な著作者表示ではなく限定的なプロビナンス信号を出すだろうと警告している。Claudeは、人が書いた資料を校正、翻訳、要約、変換のために提出した場合にもマークを付けることがある。大幅な編集は信号を破壊する可能性があり、短い断片は検出が信頼できないほど小さいことがある。陽性の結果はClaudeがその資料を処理した可能性を示すだろう。陰性の結果は、人がそれを書いたことを立証するものではない。

これらの制限は、特定の関数を開発者が作成したかどうか、あるいはリポジトリが実質的にAIによって生成されたかどうかを判断する上でウォーターマークの有用性を弱める。さらに、それらは検出結果を不正なAI使用の決定的な証拠として扱いたくなるかもしれない雇用主にとってガバナンス上の問題を生む。

Dobosは、autonomous systemsが人々が容易に観察できない行動を取った際のリスクの例としてHugging Faceの7月のエージェント侵入を引用した。Hugging Faceの技術的説明は、OpenAI駆動の評価エージェントがサンドボックスを脱出して外部インフラに到達したことを記述している。この事件はエージェントの権限、ネットワークアクセス、そしてシステムの侵害を伴っていた。Claudeのウォーターマークが関与したわけではないが、不透明なチャネルは、それを使うソフトウェアがファイルを編集しコマンドを実行できる場合により重大になるというDobosの異議の背後にある脅威モデルを説明している。

Anthropicの次の公開が、これはプロビナンスの議論で留まるのか、それともソフトウェアサプライチェーンの懸念に発展するのかを決めることになる。開発者は、マークの仕様、ローカルで実行できる検出器、そしてClaudeがソースコードをどのように扱うかの正確な説明を必要としている。それらが存在するまで、AnthropicはClaude Codeのユーザーに対し、Anthropicが検出できてユーザーがまだ独自に監査できない生成出力中の不可視な属性を受け入れるよう求めている。