3Mの専門家は、$61Mの爆発事件に関する評決の前にChatGPTに無過失の主張を立てるよう指示していた

Why it matters

AI-assisted expert work can create a discoverable record of how conclusions were formed. In this case, the prompts exposed an outcome-first assignment inside litigation involving three deaths and a $61M verdict.

3Mに雇われた専門家証人は、致命的なヒューストンの産業爆発に関する民事裁判で、自身の報告書の大部分をChatGPTに作成させ、チャットボットに明確な目的を与えていた：3Mに責任がないという主張を構築すること。

Jason Koebler (@jason_koebler)と404 Mediaが8月17日に報じたところによると、Knighthawk EngineeringのエンジニアであるJosh Autenriethは、Watson Grinding and Manufacturingでの2020年1月24日の爆発についてChatGPTに「show how 3M is 0% at fault」と依頼した。プロンプト、報告書の草案、法廷の書き起こし、開示記録は、生成系AIのセッションが数千万ドル規模の潜在的負債を伴う訴訟の証拠記録の一部になった経緯を明らかにしている。

Autenriethは業界誌の発表によれば2025年11月にKnighthawkに信頼性およびプラント運用ディレクターとして入社した。彼の以前のエンジニアリングおよび信頼性に関する職務にはOlin、Dow Chemical、Phillips 66、Sherwin Aluminaでの業務が含まれる。裁判で彼は20年以上の業界経験を挙げ、結論は自身のものであり、AIは彼がレビューして変更した草案の作成を手助けしたと主張した。

プロンプトが証拠となった

原告側弁護士のWill Moyeは、404 Mediaが述べるところの5ページの「Citation Overlay」と見られる文書を発見した。MoyeはAutenriethの宣誓供述中にその基礎となる会話を要求した。手続きは3時間中断され、その後原告側は約350ページのChatGPT記録を受け取り、会話への公開リンクも含まれていた。

これらの記録は結果優先のプロセスを示していた。AutenriethはChatGPTに対して、自分が3Mを弁護するために雇われていると伝え、3Mの注意義務（standard of care）を支持する専門家報告書を作成するよう依頼した。彼は裁判資料をアップロードし、Watson Grindingによる安全違反を特定するようモデルに求め、別の証人の結論に反論するよう指示した。

ChatGPTは約30ページの報告書を生成した。初期版には3Mが爆発に対して技術的にも注意義務上も責任を負わないと宣言する一文が含まれていた。その一文は、Autenriethが草案を反対側の弁護側の視点から評価するようChatGPTに求めた後、報告書の提出前に削除された。公開された会話によれば、モデルは絶対的な結論は証人を擁護者のように見せると警告していた。

Autenriethはまたガス検出器の画像をアップロードし、彼が見ているものを特定し産業用ガス検出器の機種名を挙げるようChatGPTに求めた。Moyeは404 Mediaに対して、その機器が争点の中心であったと述べた。Autenriethは改訂草案を繰り返し提出して編集を求め、報告書を評価して自身の資格や結論に対する攻撃を予測するようモデルに頼んでいた。

提出された報告書は初期のChatGPT出力の構成を保持しており、404 Mediaの調査ではモデルの草案や改訂と一致するかなりの部分が残っていた。公判での尋問中、MoyeとAutenriethは提出された報告書の85%から90%がChatGPTによって生成されたと表現した。Autenriethは、自分が意見を提供し、出力をレビューし、自分の見解を反映していない部分を変更したと証言した。

404 Mediaが引用した法廷記録によれば、3MはKnighthawkに分析の対価として約90,000ドルを支払った。3Mの提出書類はAutenriethの時間単価を1時間あたり475ドルと記載している。

6,100万ドルの評決

この争いは2020年1月24日午前4時30分前後に発生した爆発に端を発する。U.S. Chemical Safety and Hazard Investigation Boardは、塗装ブース内でホースが外れ、プロピレンが放出されWatson Grindingの建物内に蓄積して着火したと結論付けた。2人の作業員と近隣の住民1人が死亡し、周辺450棟以上に影響が出た。

連邦の調査は、Watson Grindingのプロセス安全管理、緊急時の準備、ガス検出およびシャットダウンシステムの保守に失敗があったと指摘した。原告側は、かつて3Mの子会社であったDetconによるガス検出機器の作業も爆発に寄与したと主張している。

最新の陪審は原告に6,100万ドル超を認め、責任を3Mに30%、Watson Grindingに70%と割り振った。評決は、AutenriethがChatGPTに支持するよう指示した「無責任」の結論を退けた。

この訴訟は1件の裁判よりはるかに大きな規模で続いている。3Mは6月30日終わりの期間の四半期報告で、1,900人超の請求者が複数の被告に対して申し立てを行っていると述べた。これまでの陪審は相反する結論を出しており、2025年6月と11月の裁判では3Mは部分的に責任があると判断され、2026年4月の裁判では責任なしとされた。3Mは最初の2件の判決に控訴し、損失は発生が確実でも合理的に見積もれるものでもないため引当金を計上していないと述べている。

AI作業は痕跡を残す

テキサス州の手続きは、相手方に証言する専門家の作業の基礎への広範なアクセスを認めている。州の現行民事手続規則は、雇われた専門家に対して、証言のために提供された、専門家がレビューした、または証言のために作成された文書、報告、モデル、データ集計を開示することを要求している。Texas Rules of Evidenceは、専門家がその基礎となる事実やデータについて尋問されうることを認め、これらの資料が十分な根拠を提供しない場合には意見を証拠として採用できないと定めている。

これらの規則は、専門家の資格、方法、事実的基盤に焦点を当てている。生成系AIは、結論がどのように形成されたかを露呈するもう一つの記録を追加する。今回、最終報告書はプロセスの一部しか明らかにしなかった。プロンプトの履歴は、ChatGPTが証拠を分析し始める前に要求された目的地が選択されていたことを示していた。