英国内務省、AIが幻覚で作成した文書を根拠に亡命申請を却下、裁判官が認定

英国の内務省が、難民申請を却下するためにAIが作り出した文書に依存した疑いがあると、2026年7月の上級審（移民・難民審査部）の判決で指摘された。この事件は、強制的な未成年婚、レイプ、有罪判決を受けた夫からの脅威から逃れたモロッコ人女性とその子どもに関するもの。内務省は彼女の難民申請を却下し、モロッコが帰国しても安全であると確認する国の政策情報ノート（CPIN）を引用した。しかし、そのようなCPINは見つからなかった。

判決の主な所見

• 欠落文書：内務省の却下通知書は「2021年7月のモロッコに関する国の情報ノート」を参照していたが、上級審はそのような文書を特定できなかった。内務省自身の国の政策チームも、文書の存在を確認できないと述べた。
• 判事の結論：判事は、却下通知書は「人工知能の使用と一致する特徴」を示しており、参照先はAIの「幻覚」の結果である可能性があると述べた。存在しない文書に依存することは「偽の証拠に依存するのに類似する」と評した。
• CINからCPINへの変更：ガーディアンが問い合わせた後、内務省は2018年の内部使用のみの未公表の国の情報ノート（CIN）を提出した。却下通知書は当初CPIN（裁判所によって権威あるものとされる）を引用していたが、後の参照はCINに変更された。モロッコに関するCPINは2017年以降公表されていない。
• 内部文書の内容：CINはモロッコが安全だと結論付けていない。2018年にモロッコで4万件の児童婚（その年の結婚の5分の1）が認められ、婚内レイプは犯罪化されておらず、レイプを報告した女性が姦通法で罰せられる可能性があると記載されている。

政府におけるAI利用の実務的示唆

この事件は、AIの幻覚が現実世界で重大な行政決定に害を及ぼした具体的な法的認定を示している。AI支援による文書生成や検索システムを扱う開発者は以下に留意すべき：

• AIが生成した引用は、法的または公的な文脈で使用する前に、権威ある情報源と照合して検証する必要がある。
• LLMの出力に人間による検証なしで過度に依存すると責任が生じる。本件では、それが誤った難民却下に寄与した可能性がある。
• 内部CINからCPINへの引用変更は、幻覚が露呈した後の事後的な合理化を示唆している。