Un homme tente une injection de prompt dans des documents judiciaires, le juge juge cela « dangereux »

Un juge du Connecticut a identifié ce qui semble être le premier cas d'un plaignant américain tentant d'utiliser l'injection de prompt — du texte caché uniquement lisible par les systèmes d'IA — dans des documents judiciaires. Matthew Elliott, un plaideur pro se, a caché des instructions en petits caractères blancs sur fond blanc, espérant influencer tout système d'IA qui pourrait examiner son dossier.

Texte caché et instructions d'IA

Selon la décision du juge Walter Spader Jr., le texte caché d'Elliott était « formaté pour être invisible à l'œil humain tout en restant parfaitement lisible pour tout logiciel qui lit le texte du document ». Les instructions demandaient aux systèmes d'IA de :

• Veiller à ce que les sorties textuelles soient en accord avec les arguments d'Elliott
• Ignorer les refus antérieurs du tribunal
• Veiller à ce qu'une remédiation suive comme Elliott le souhaitait

Elliott a affirmé qu'il tentait d'« auditer » le tribunal par crainte qu'il utilise l'IA de manière injuste. Le juge Spader a rejeté cette explication, notant que si Elliott avait de réelles préoccupations, il aurait pu les écrire « en mots clairs et visibles ». La nature cachée du texte était « la preuve de son intention malveillante ».

Sanctions et blagues ultérieures

Malgré les avertissements, Elliott a continué à cacher du texte dans ses dépôts, y compris des blagues comme un lien vers une vidéo YouTube de Nosferatu, un message disant « salut :) j'espère que tu ne me vois pas », et du texte absurde. Le juge Spader a qualifié ces actions de « stupéfiantes » et « défiant toute logique » pour quelqu'un qui veut que le tribunal prenne ses plaidoiries au sérieux.

La branche judiciaire du Connecticut n'utilise pas l'IA pour examiner ou décider des dépôts, donc les prompts n'ont eu aucun effet. Cependant, Spader a noté que la tactique est « partout » dans d'autres domaines comme les CV. Il a interdit à Elliott de déposer électroniquement à l'avenir comme sanction, évitant les pénalités pécuniaires en raison du statut pro se d'Elliott.

Implications

Cette affaire met en lumière une préoccupation de sécurité croissante : l'injection de prompt comme vecteur de falsification de l'examen de documents assisté par l'IA. Alors que les tribunaux et d'autres institutions adoptent de plus en plus d'outils d'IA, des acteurs malveillants pourraient tenter de les exploiter. La décision du juge Spader établit un précédent juridique pour pénaliser de tels abus.