男、裁判所提出書類でプロンプトインジェクションを試み、裁判官はそれを「危険」と判断

コネチカット州の判事が、裁判所提出文書にプロンプトインジェクション（AIシステムにのみ読取可能な隠しテキスト）を使用しようとした米国人原告の初の事例を特定した。本人訴訟原告であるマシュー・エリオットは、白い背景に細かい白文字で指示を隠し、自らの訴訟を審査する可能性のあるAIシステムを誘導しようとした。

隠しテキストとAIへの指示

ウォルター・スペイダー陪席判事の決定によると、エリオットの隠しテキストは「人間の読者には見えないが、文書のテキストを読み取るあらゆるソフトウェアには完全に読める形式」だった。指示はAIシステムに対し、以下のことを求めていた：

• テキスト出力がエリオットの主張と一致するようにする
• 裁判所の以前の却下を無視する
• エリオットが望むように是正が行われるようにする

エリオットは、裁判所がAIを不公平に使用しているとの懸念から「監査」しようとしていたと主張した。スペイダー判事はこれを退け、本当に懸念があるなら「平易で目に見える言葉」で書けばよいと指摘した。隠された性質は「悪意のある目的の証拠」であるとした。

制裁とその後の冗談

警告にもかかわらず、エリオットは文書にテキストを隠し続けた。例えば、ノスフェラトゥのYouTube動画へのリンク、「hi :) I hope yo ucant see me」というメッセージ、無意味なテキストなどである。スペイダー判事はこれらの行為を「衝撃的」であり、裁判所に真剣に受け止めてほしいと望む者にとって「論理を無視している」と述べた。

コネチカット州司法府は提出書類の審査や決定にAIを使用していないため、プロンプトは効果がなかった。しかし、スペイダー判事はこの戦術が履歴書などの他の分野で「どこにでもある」と指摘した。彼はエリオットの今後の電子提出を禁止する制裁を科したが、本人訴訟であることを考慮し、金銭的罰則は避けた。

影響

この事件は、AI支援による文書審査を妨害するベクターとしてのプロンプトインジェクションという、増大するセキュリティ上の懸念を浮き彫りにしている。裁判所や他の機関がAIツールを採用するにつれ、悪意ある行為者がこれを悪用しようとする可能性がある。スペイダー判事の判決は、このような悪用を罰する法的前例を確立するものである。