PangramがAI生成メールをゴミ箱に移せるGmailフィルタをテスト

Why it matters

Pangram is turning AI detection from an advisory score into an inbox gate. Automatic filtering raises the cost of false positives while requiring server-side access to private email.

Pangram、Max Spero (@max_spero_) と Bradley Emi (@bradley_emi) によって設立された AI 検出ビジネスは、受信メッセージをスキャンし、AI が作成したと分類されたメールを自動的に迷惑メールまたはゴミ箱に移動できる Gmail 統合機能をテストしている。

未公開のアプリ機能を暴き出すことで知られるセキュリティ研究者でリバースエンジニアの Jane Manchun Wong (@wongmjane) は、8 月 11 日にその統合のスクリーンショットを公開した。画像は Google OAuth を通じて Gmail に接続された Pangram のダッシュボードを示しており、スキャンを一時停止するコントロール、選択した送信者やドメインを除外する設定、Pangram が AI 生成とラベル付けしたメッセージを Gmail がどのように扱うかを選ぶための設定が表示されている。

Jane Manchun Wong on X

この機能は開発中の段階にある。Wong は Pangram がその統合に「取り組んでいる」と述べており、スクリーンショットは接続が Pangram 自身のサーバー上で受信メールをスキャンする形になっていると説明している。新しいメッセージは Gmail が Pangram に配信通知を送った後にチェックされ、受信トレイ内で Pangram/AI、Pangram/Mixed、Pangram/Human のラベルが付与されることになる。

検出器が受信トレイルールになる

重要な変化は、Pangram のスコアに付随するアクションだ。Pangram の既存ツールは一般に選択した文書、ウェブページ、ソーシャル投稿を検査することを可能にしていた。Gmail 統合は継続的に動作し、分類に基づいてメッセージが受信トレイに残るかどうかを決定する。

あるスクリーンショットは、チェック済み、スキップ済み、ラベル付けされたスレッドを要約するダッシュボードと、AI ラベルが最も多く付いたメッセージの送信者リストを示している。ユーザーは Pangram がメッセージ本文を取得する前に送信者、ドメイン、グループ、メーリングリストの除外ルールを設定できる。別の設定では AI ラベルの付いたメールを受信トレイから移動することができる。

この設計は、従来のスパムチェックをすり抜ける自動化されたセールスピッチ、大量のアウトリーチ、その他の機械生成メッセージを抑制する新しい手段をユーザーに与える可能性がある。一方で、AI アシスタントで作成された正当なメールも検出される可能性がある。Pangram 自身の利用規約は、その検出システムを確率的分類器として説明しており、テキスト検出サービスの利用者に対して各予測を多数のシグナルのうちの一つとして扱うよう促している。自動的な受信トレイルールは、その予測に直接的な運用上の結果を与える。

Spero と Emi はスタンフォードの新入生として出会い、その後 Pangram を設立する前に応用機械学習システムに取り組んだ。Spero は Nuro、Google、Two Sigma、Yelp で働き、Emi は Tesla Autopilot のコンピュータビジョンチームで働いた後、Absci で深層学習の研究を率いた。Pangram は学校、出版社、プラットフォーム、その他の組織向けに合成テキスト検出を中心に事業を構築してきた。（Pangramの会社の歴史）

Gmail のテストは、Pangram の元のドキュメントチェッカーからの急速な拡張に続くものだ。Substack は Pangram の利用を開始した と 7 月 21 日から公開された投稿とノートで、読者がどの程度のテキストが人間によるものか AI 支援だったかを推定できるようになった。Pangram はその後 Pangram 4 を発表し、7 月 29 日に Menlo Ventures が主導したラウンドで 900 万ドルを調達したと TechCrunchの報告 は伝えている。Haystack、ScOp Venture Capital、Script Capital、Cadenza も参加した。

受信トレイはプライバシー上の懸念を高める

Gmail への接続は、私的なやり取り、領収書、アカウント警告、職場での議論などを含み得るテキストのカテゴリを Pangram が処理することを必要とする。スクリーンショットは Google OAuth、取り消し可能なアクセス、送信者レベルの除外を強調しており、Pangram がスキャンを完全に Gmail 内で行うのではなく自社のサーバーで行っていることを明示している。

Pangram の現行のプライバシーポリシーは、検出のために提出されたテキストと、登録顧客のメタデータを収集すると述べている。Pangram は顧客コンテンツを自社の AI モデルの学習や改善に使用しない、広告に使用しない、クエリ履歴から削除できると述べている。別のデータプライバシーFAQは、提出されたコンテンツはユーザーが削除しない限りアカウントが有効な間は保存されたままであると説明している。

Pangramの最新技術レポートは、Pangram 4 が評価において偽陽性率 0.0041% と偽陰性率 0.3396% を達成したと述べている。これらは Pangram が報告するベンチマーク結果であり、受信トレイでの性能は実際のメールの長さ、文体、モデルの出自によって左右されるだろう。またレポートは、多くのメッセージが人間の下書きで始まり送信前に AI ライティングツールを通過する場合に必要となる、混合した人間–AI の文章を分類し、より小さな AI 編集部分を特定するよう Pangram 4 が設計されていると述べている。

Gmail 統合は、機械生成の素材を識別することから、ユーザーのそうした素材に対する好みを強制することへ Pangram の中核的な賭けを拡張するものだ。リリースされれば、Pangram は送信者と受信者の間に位置し、ユーザーがメッセージを開く前に著者推定を配信判断に変換することになる。