L'ordonnance du tribunal de Géorgie contient des citations juridiques hallucinées par l'IA.
Une audience d'appel devant la Cour suprême de Géorgie a mis au jour des erreurs de citation importantes dans une ordonnance d'un tribunal de première instance, avec des éléments suggérant que des hallucinations générées par l'IA étaient impliquées. Pendant les plaidoiries dans un appel concernant une condamnation pour meurtre, le juge en chef Nels S.D. Peterson a identifié de graves problèmes dans l'ordonnance du tribunal de première instance rejetant une demande de nouveau procès.
Détails clés de l'audience
Selon le matériel source, le juge en chef Peterson a déclaré que l'ordonnance contenait :
- « Au moins cinq références à des affaires qui n'existent pas »
- « Au moins cinq autres références à des affaires qui ne soutiennent pas la proposition pour laquelle elles sont citées »
- « Trois citations qui n'existent pas »
La procureure, Leslie, a répondu que son ordonnance initiale soumise avait été révisée et n'a assumé aucune responsabilité pour les citations erronées. Cependant, le juge en chef Peterson a rétorqué : « Ces affaires inexistantes étaient citées dans votre mémoire initial opposé à la demande de nouveau procès. »
Documentation disponible
La source indique que deux documents clés sont disponibles pour examen :
- Une ordonnance de 33 pages rejetant la demande de nouveau procès
- Une ordonnance proposée de 37 pages de l'État
Cet incident souligne les risques liés à l'utilisation d'outils d'IA pour la recherche juridique et les citations sans vérification approfondie. Bien que la source ne précise pas quel outil d'IA a été utilisé, le modèle d'affaires hallucinées et de citations mal attribuées correspond aux limites connues des grands modèles de langage actuels dans les contextes juridiques.
📖 Read the full source: HN LLM Tools
👀 See Also
OpenAI va déployer des modèles d'IA sur le réseau classifié du Département de la Guerre des États-Unis.
OpenAI a conclu un accord pour déployer ses modèles d'intelligence artificielle sur le réseau classifié du département de la Guerre des États-Unis, avec une mise en œuvre prévue pour 2026. L'article de Reuters a généré 15 points et 6 commentaires sur Hacker News.
L'IA Pointer de Google DeepMind : Réinventer la souris pour les interactions avec Gemini
Google DeepMind présente un pointeur alimenté par l'IA qui utilise Gemini pour comprendre le contexte, permettant des commandes comme pointer une image et dire 'Montre-moi les directions', intégré dans Chrome et Googlebook.
Les journaux de session de l'agent de codage sont stockés localement, ce qui pourrait permettre un entraînement fédéré ouvert.
Les agents de codage comme Claude Code et Codex CLI stockent localement des journaux de session détaillés, incluant les tâches, le raisonnement, les appels d'outils et les réponses de l'environnement. Un post Reddit propose d'utiliser ces données via l'apprentissage fédéré pour créer un équivalent ouvert aux jeux de données d'entraînement propriétaires.
Palantir IA à intégrer dans l'ensemble de l'armée américaine selon un rapport
Un rapport indique que l'armée américaine prévoit d'intégrer la technologie d'IA de Palantir dans toutes ses branches. L'article a généré 37 points et 24 commentaires sur Hacker News.