Deux fonctionnaires sud-africains des Affaires intérieures suspendus à cause d'hallucinations d'IA dans un document de politique

Le ministère de l'Intérieur (DHA) en Afrique du Sud a suspendu deux responsables après avoir découvert des hallucinations générées par l'IA dans la liste des références d'un livre blanc révisé sur la citoyenneté, l'immigration et la protection des réfugiés. Les suspensions concernent le directeur principal de l'unité citoyenneté et immigration et le directeur impliqué dans la rédaction du document.

Que s'est-il passé

Les écarts ont été trouvés dans la liste des références jointe au livre blanc. Les références ont été jugées comme des hallucinations — des résultats erronés ou fictifs provenant de grands modèles de langage (LLM). Selon le communiqué du DHA, les références semblent avoir été générées et ajoutées après coup, car elles ne sont pas citées dans le corps du texte.

Réponse et nouvelles procédures

Le DHA a reconnu l'embarras et a déclaré qu'il utiliserait cet incident pour moderniser les processus. À l'avenir, ils concevront et mettront en œuvre des vérifications et des déclarations par IA dans le cadre des processus d'approbation interne. Deux cabinets d'avocats indépendants ont été mandatés pour gérer la procédure disciplinaire et examiner tous les documents politiques produits depuis le 30 novembre 2022 — date de sortie de ChatGPT pour le public.

Le DHA maintient que la politique révisée reflète fidèlement la position du gouvernement et en défend le contenu, affirmant que les hallucinations étaient limitées à la liste de références autonome.

Contexte plus large

Cet incident fait suite à un cas similaire survenu une semaine plus tôt, où le ministère des Communications et des Technologies numériques (DCDT) a retiré son projet de politique nationale sur l'IA après la découverte de sources fictives. Le ministre Solly Malatsi a noté : « L'explication la plus plausible est que des citations générées par l'IA ont été incluses sans vérification appropriée. »

Le DHA a accepté l'utilisation croissante de l'IA et a déclaré que les institutions doivent s'adapter : « C'est une technologie transformatrice mais perturbatrice qui change la façon dont les organisations fonctionnent dans les secteurs privé et public. Nous devons maintenant nous adapter pour suivre le rythme. »

Cette affaire met en lumière une conséquence réelle de l'utilisation des LLM pour la rédaction de documents sans vérification rigoureuse — surtout dans le gouvernement où l'exactitude est cruciale. Pour les développeurs travaillant avec des agents d'IA, cela renforce la nécessité de couches de validation, de vérifications des citations et d'une révision humaine dans le processus.