Richter stellt fest: Britisches Innenministerium nutzte KI-halluziniertes Dokument zur Ablehnung von Asylantrag

Das britische Home Office steht im Verdacht, sich bei der Ablehnung eines Asylantrags auf ein KI-halluziniertes Dokument gestützt zu haben, so ein Urteil des Upper Tribunal (Immigration and Asylum Chamber) vom Juli 2026. Der Fall betrifft eine marokkanische Frau und ihr Kind, die vor Zwangsverheiratung, Vergewaltigung und Drohungen ihres verurteilten Ehemanns geflohen waren. Das Home Office lehnte ihren Asylantrag unter Berufung auf eine Länderrichtliniennotiz (Country Policy Information Note, CPIN) ab, die angeblich bestätigte, dass Marokko für ihre Rückkehr sicher sei. Eine solche CPIN konnte jedoch nicht gefunden werden.

Wesentliche Erkenntnisse aus dem Urteil

• Fehlendes Dokument: Der Ablehnungsbescheid des Home Office verwies auf eine „country information note Morocco July 2021“, aber das Upper Tribunal konnte ein solches Dokument nicht finden. Die eigene Länderpolitikabteilung des Home Office bestätigte, dass sie die Existenz des Dokuments nicht bestätigen könne.
• Schlussfolgerung des Richters: Der Richter erklärte, der Ablehnungsbescheid „trägt Merkmale, die mit der Nutzung künstlicher Intelligenz vereinbar sind“, und die Bezugnahme könne das Ergebnis einer KI-„Halluzination“ sein. Er bezeichnete das Stützen auf ein nicht existierendes Dokument als „analog zum Stützen auf nichtige Beweise“.
• Wechsel von CIN zu CPIN: Nachdem der Guardian sie kontaktiert hatte, legte das Home Office eine interne, unveröffentlichte Länderinformationsnotiz (Country Information Note, CIN) von 2018 vor. Der Ablehnungsbescheid bezog sich ursprünglich auf eine CPIN – die von Gerichten als autoritativ angesehen wird –, aber spätere Verweise wechselten zur CIN. Seit 2017 wurde keine CPIN zu Marokko veröffentlicht.
• Inhalt des internen Dokuments: Die CIN kommt nicht zu dem Schluss, dass Marokko sicher sei. Sie stellt fest, dass Marokko 2018 40.000 Kinderehen genehmigte (ein Fünftel aller Ehen in diesem Jahr), Vergewaltigung in der Ehe nicht unter Strafe stellt und Frauen, die Vergewaltigung anzeigen, nach Ehebruchsgesetzen bestrafen kann.

Praktische Auswirkungen für den KI-Einsatz in der Regierung

Dieser Fall stellt einen konkreten rechtlichen Befund dar, dass KI-Halluzination in einer folgenreichen Verwaltungsentscheidung realen Schaden verursacht hat. Entwickler, die an KI-gestützter Dokumentenerstellung oder Retrieval-Systemen arbeiten, sollten beachten:

• KI-generierte Zitate müssen vor der Verwendung in rechtlichen oder offiziellen Kontexten anhand autoritativer Quellen verifiziert werden.
• Übermäßiges Vertrauen in LLM-Outputs ohne menschliche Validierung schafft Haftung – hier trug es möglicherweise zu einer unrechtmäßigen Asylablehnung bei.
• Der Wechsel von der Zitierung einer internen CIN zu einer CPIN deutet auf eine mögliche nachträgliche Rationalisierung hin, nachdem die Halluzination aufgedeckt wurde.