Суд установил, что МВД Великобритании использовало галлюцинированный ИИ документ для отказа в убежище

Министерство внутренних дел Великобритании обвиняется в использовании документа, сгенерированного ИИ-галлюцинацией, для отказа в убежище, согласно решению Высшего трибунала (иммиграционная и убежищная палата) от июля 2026 года. Дело касается марокканки и ее ребенка, бежавших от принудительного несовершеннолетнего брака, изнасилования и угроз со стороны осужденного преступника-мужа. МВД отклонило ее заявление на убежище, сославшись на страновую политическую записку (CPIN), якобы подтверждающую, что Марокко будет безопасным для ее возвращения. Однако такой CPIN не был найден.

Ключевые выводы из решения

• Пропавший документ: В письме об отказе МВД ссылалось на «страновую информационную записку Марокко, июль 2021 года», но Высший трибунал не смог найти такой документ. Собственная группа МВД по страновой политике подтвердила, что не может подтвердить его существование.
• Вывод судьи: Судья заявил, что письмо об отказе «несет признаки, согласующиеся с использованием искусственного интеллекта», и ссылка может быть результатом ИИ-галлюцинации. Он назвал опору на несуществующий документ «аналогичной опоре на ложные доказательства».
• Переход с CIN на CPIN: После обращения Guardian МВД предоставило внутреннюю, неопубликованную страновую информационную записку (CIN) от 2018 года. Первоначально в письме об отказе упоминалась CPIN — считающаяся авторитетной в судах, — но позже ссылки сместились на CIN. Ни одной CPIN по Марокко не публиковалось с 2017 года.
• Содержание внутреннего документа: CIN не делает вывод о безопасности Марокко. В нем указано, что в 2018 году в Марокко было разрешено 40 000 детских браков (пятая часть всех браков за тот год), не криминализировано супружеское изнасилование, а женщины, сообщающие об изнасиловании, могут быть привлечены к ответственности по законам о прелюбодеянии.

Практические последствия для использования ИИ в правительстве

Это дело знаменует собой конкретный юридический вывод о том, что галлюцинация ИИ причинила реальный вред в административном решении с высокими ставками. Разработчики, работающие над системами генерации или поиска документов с помощью ИИ, должны учесть:

• Цитаты, созданные ИИ, должны проверяться по авторитетным источникам перед использованием в любом юридическом или официальном контексте.
• Чрезмерная зависимость от выходных данных LLM без человеческой проверки создает ответственность — в данном случае это потенциально способствовало неправомерному отказу в убежище.
• Переход от ссылки на внутреннюю CIN к CPIN намекает на возможную постфактум рационализацию после того, как галлюцинация была раскрыта.