Juge constate que le ministère de l'Intérieur britannique a utilisé un document inventé par l'IA pour refuser une demande d'asile

Le Home Office britannique a été accusé de s'être appuyé sur un document halluciné par l'IA pour refuser une demande d'asile, selon une décision de juillet 2026 de l'Upper Tribunal (Immigration and Asylum Chamber). L'affaire concerne une femme marocaine et son enfant ayant fui un mariage forcé, un viol et des menaces de la part de son mari criminel condamné. Le Home Office a rejeté sa demande d'asile en invoquant une note d'information sur la politique du pays (CPIN) qui confirmerait que le Maroc serait sûr pour son retour. Cependant, aucune CPIN de ce type n'a pu être trouvée.

Principales constatations de la décision

• Document manquant : La lettre de refus du Home Office faisait référence à une « note d'information sur le pays Maroc juillet 2021 » mais l'Upper Tribunal n'a pu trouver aucun document de ce type. La propre équipe de politique du pays du Home Office a confirmé qu'elle ne pouvait pas confirmer l'existence du document.
• Conclusion du juge : Le juge a déclaré que la lettre de refus « porte les marques d'une utilisation de l'intelligence artificielle » et que la référence pourrait résulter d'une « hallucination » de l'IA. Il a qualifié le fait de se fier à un document inexistant de « comparable à l'utilisation de preuves frauduleuses ».
• Passage de CIN à CPIN : Après que le Guardian les a contactés, le Home Office a produit une note d'information interne non publiée (CIN) de 2018. La lettre de refus originale citait une CPIN – considérée comme faisant autorité par les tribunaux – mais les références ultérieures sont passées à la CIN. Aucune CPIN sur le Maroc n'a été publiée depuis 2017.
• Contenu du document interne : La CIN ne conclut pas que le Maroc est sûr. Elle indique que le Maroc a accordé 40 000 mariages d'enfants en 2018 (un cinquième des mariages cette année-là), ne criminalise pas le viol conjugal et peut criminaliser les femmes qui signalent un viol en vertu des lois sur l'adultère.

Implications pratiques pour l'utilisation de l'IA dans l'administration

Cette affaire marque une constatation juridique concrète d'une hallucination de l'IA causant un préjudice réel dans une décision administrative à fort enjeu. Les développeurs travaillant sur des systèmes de génération ou de récupération de documents assistés par l'IA doivent noter :

• Les citations générées par l'IA doivent être vérifiées par rapport à des sources faisant autorité avant toute utilisation dans un contexte juridique ou officiel.
• Une confiance excessive dans les résultats des LLM sans validation humaine crée une responsabilité – ici, elle a potentiellement contribué à un refus injustifié d'asile.
• Le passage de la citation d'une CIN interne à une CPIN suggère une rationalisation a posteriori après que l'hallucination a été découverte.