영국 내무부, AI가 생성한 허위 문서로 망명 신청 거부, 판사 확인

영국 내무부가 망명 신청을 거부하는 데 AI가 환각한 문서에 의존했다는 비난을 받고 있다. 2026년 7월 상급 재판소(이민 및 망명 재판소)의 판결에 따르면, 이 사건은 강제 미성년 결혼, 강간, 유죄 판결을 받은 남편의 위협을 피해 도망친 모로코 여성과 그 자녀와 관련된다. 내무부는 모로코로의 귀환이 안전할 것이라고 주장하는 국가 정책 정보 노트(CPIN)를 인용하며 망명 신청을 기각했다. 그러나 해당 CPIN은 어디에서도 찾을 수 없었다.

판결의 주요 쟁점

• 문서 부재: 내무부의 거부 서한에는 '2021년 7월 모로코 국가 정보 노트'가 언급되었으나, 상급 재판소는 그러한 문서를 찾을 수 없었다. 내무부 자체 국가 정책 팀도 해당 문서의 존재를 확인할 수 없다고 밝혔다.
• 판사의 결론: 판사는 거부 서한이 "인공지능 사용과 일관된 특징"을 보이며, 해당 참조가 AI의 "환각" 결과일 수 있다고 밝혔다. 그는 존재하지 않는 문서에 의존하는 것을 "가짜 증거에 의존하는 것과 유사하다"고 말했다.
• CIN에서 CPIN으로의 전환: 가디언이 연락한 후, 내무부는 2018년의 비공개 내부 국가 정보 노트(CIN)를 제출했다. 원래 거부 서한은 법원이 권위 있는 것으로 인정하는 CPIN을 인용했으나, 이후 언급은 CIN으로 변경되었다. 2017년 이후 모로코에 관한 CPIN은 발행되지 않았다.
• 내부 문서의 내용: 해당 CIN은 모로코가 안전하다고 결론 내리지 않는다. 문서에는 모로코가 2018년에 40,000건의 아동 결혼을 허가했으며(그해 결혼의 5분의 1), 부부 강간을 범죄화하지 않고, 강간 신고 여성을 간통법에 따라 처벌할 수 있다고 명시되어 있다.

정부의 AI 사용에 대한 실질적 시사점

이 사건은 고위험 행정 결정에서 AI 환각이 현실적인 피해를 초래한 구체적인 법적 판결을 의미한다. AI 기반 문서 생성 또는 검색 시스템을 개발하는 개발자는 다음을 유의해야 한다:

• AI가 생성한 인용은 법적 또는 공식적 맥락에서 사용되기 전에 권위 있는 출처와 대조하여 검증되어야 한다.
• 인간의 검증 없이 LLM 출력에 과도하게 의존하면 책임이 발생한다—이 경우, 망명의 부당한 거부에 기여했을 가능성이 있다.
• 내부 CIN에서 CPIN으로의 인용 변경은 환각이 드러난 후 사후 합리화를 시사한다.