Dois funcionários do Ministério do Interior da África do Sul suspensos por alucinações de IA em documento de política

O Departamento de Assuntos Internos (DHA) da África do Sul suspendeu dois funcionários após descobrir alucinações geradas por IA na lista de referências de um documento revisado sobre cidadania, imigração e proteção de refugiados. As suspensões afetam o Diretor-Chefe da unidade de cidadania e imigração e o diretor envolvido na elaboração do documento.

O que aconteceu

As discrepâncias foram encontradas na lista de referências anexada ao documento. As referências foram consideradas alucinações — saídas errôneas ou fictícias de modelos de linguagem de grande porte (LLMs). De acordo com o comunicado do DHA, as referências parecem ter sido geradas e anexadas posteriormente, pois não são citadas no corpo do texto.

Resposta e novos procedimentos

O DHA reconheceu o constrangimento e disse que usará o incidente para modernizar processos. Daqui para frente, eles projetarão e implementarão verificações e declarações de IA como parte dos processos de aprovação interna. Dois escritórios de advocacia independentes foram nomeados para gerenciar o processo disciplinar e revisar todos os documentos políticos produzidos desde 30 de novembro de 2022 — a data em que o ChatGPT foi lançado para uso público.

O DHA mantém que a política revisada reflete com precisão a posição do governo e defende seu conteúdo, afirmando que as alucinações estavam confinadas à lista de referências isolada.

Contexto mais amplo

Este incidente segue um semelhante ocorrido uma semana antes, quando o Departamento de Comunicações e Tecnologias Digitais (DCDT) retirou seu projeto de Política Nacional de IA após a descoberta de fontes fictícias. O Ministro Solly Malatsi observou: “A explicação mais plausível é que citações geradas por IA foram incluídas sem verificação adequada.”

O DHA aceitou o uso crescente da IA e disse que as instituições devem se adaptar: “É uma tecnologia transformadora, mas disruptiva, que está mudando a forma como as organizações operam nos setores privado e público. Agora devemos nos adaptar para acompanhar.”

Este caso destaca uma consequência real do uso de LLMs para elaboração de documentos sem verificação rigorosa — especialmente no governo, onde a precisão é crítica. Para desenvolvedores que trabalham com agentes de IA, reforça a necessidade de camadas de validação, verificação de citações e revisão humana no processo.