L'ordonnance du tribunal de Géorgie contient des citations juridiques hallucinées par l'IA.

Une audience d'appel devant la Cour suprême de Géorgie a mis au jour des erreurs de citation importantes dans une ordonnance d'un tribunal de première instance, avec des éléments suggérant que des hallucinations générées par l'IA étaient impliquées. Pendant les plaidoiries dans un appel concernant une condamnation pour meurtre, le juge en chef Nels S.D. Peterson a identifié de graves problèmes dans l'ordonnance du tribunal de première instance rejetant une demande de nouveau procès.

Détails clés de l'audience

Selon le matériel source, le juge en chef Peterson a déclaré que l'ordonnance contenait :

• « Au moins cinq références à des affaires qui n'existent pas »
• « Au moins cinq autres références à des affaires qui ne soutiennent pas la proposition pour laquelle elles sont citées »
• « Trois citations qui n'existent pas »

La procureure, Leslie, a répondu que son ordonnance initiale soumise avait été révisée et n'a assumé aucune responsabilité pour les citations erronées. Cependant, le juge en chef Peterson a rétorqué : « Ces affaires inexistantes étaient citées dans votre mémoire initial opposé à la demande de nouveau procès. »

Documentation disponible

La source indique que deux documents clés sont disponibles pour examen :

• Une ordonnance de 33 pages rejetant la demande de nouveau procès
• Une ordonnance proposée de 37 pages de l'État

Cet incident souligne les risques liés à l'utilisation d'outils d'IA pour la recherche juridique et les citations sans vérification approfondie. Bien que la source ne précise pas quel outil d'IA a été utilisé, le modèle d'affaires hallucinées et de citations mal attribuées correspond aux limites connues des grands modèles de langage actuels dans les contextes juridiques.