L'ordonnance du tribunal de Géorgie contient des citations juridiques hallucinées par l'IA.
Une audience d'appel devant la Cour suprême de Géorgie a mis au jour des erreurs de citation importantes dans une ordonnance d'un tribunal de première instance, avec des éléments suggérant que des hallucinations générées par l'IA étaient impliquées. Pendant les plaidoiries dans un appel concernant une condamnation pour meurtre, le juge en chef Nels S.D. Peterson a identifié de graves problèmes dans l'ordonnance du tribunal de première instance rejetant une demande de nouveau procès.
Détails clés de l'audience
Selon le matériel source, le juge en chef Peterson a déclaré que l'ordonnance contenait :
- « Au moins cinq références à des affaires qui n'existent pas »
- « Au moins cinq autres références à des affaires qui ne soutiennent pas la proposition pour laquelle elles sont citées »
- « Trois citations qui n'existent pas »
La procureure, Leslie, a répondu que son ordonnance initiale soumise avait été révisée et n'a assumé aucune responsabilité pour les citations erronées. Cependant, le juge en chef Peterson a rétorqué : « Ces affaires inexistantes étaient citées dans votre mémoire initial opposé à la demande de nouveau procès. »
Documentation disponible
La source indique que deux documents clés sont disponibles pour examen :
- Une ordonnance de 33 pages rejetant la demande de nouveau procès
- Une ordonnance proposée de 37 pages de l'État
Cet incident souligne les risques liés à l'utilisation d'outils d'IA pour la recherche juridique et les citations sans vérification approfondie. Bien que la source ne précise pas quel outil d'IA a été utilisé, le modèle d'affaires hallucinées et de citations mal attribuées correspond aux limites connues des grands modèles de langage actuels dans les contextes juridiques.
📖 Read the full source: HN LLM Tools
👀 See Also
Comparaison de Référence des Modèles Qwen 3.5 avec les Principaux Modèles d'IA
Un site web de comparaison de benchmarks inclut des scores vérifiés et des infographies comparatives pour les modèles Qwen 3.5 (122B, 35B, 27B, 397B) par rapport à des modèles comme GPT-5.2, Claude 4.5 Opus, Gemini-3 Pro, et d'autres.
Modifications de facturation du SDK Claude Agent au 15 juin : crédits par utilisateur, sans report, seuil strict
À compter du 15 juin, l'utilisation du SDK Claude Agent et de <code>claude -p</code> ne compte plus dans les limites de votre abonnement. Chaque utilisateur reçoit un crédit mensuel dédié (par exemple, Pro 20 $, Max 5x 100 $). Les crédits ne se cumulent pas, ne se reportent pas et ont une limite stricte.
Subquadratic lance une fenêtre de contexte de 12 millions de tokens pour les modèles d'IA
Subquadratic publie une fenêtre de contexte de 12 millions de tokens, repoussant les limites précédentes pour l'inférence des LLM et permettant de traiter des codebases entières en un seul passage.
L'article d'échecs de Claude Shannon en 1950 a prédit le problème central du GenAI : deviner vs. savoir
L'article de Shannon sur les échecs en 1950 a posé le défi central de l'IA : prendre des décisions « assez bonnes » en situation d'incertitude, exactement le problème auquel l'IA générative est confrontée aujourd'hui lorsqu'elle produit des réponses polies mais erronées.