Un hombre intenta inyección de instrucciones en documentos judiciales, juez lo considera 'peligroso'

Un juez de Connecticut ha identificado lo que parece ser el primer caso de un demandante estadounidense que intenta utilizar la inyección de instrucciones (texto oculto solo legible por sistemas de IA) en documentos judiciales. Matthew Elliott, un litigante pro se, ocultó instrucciones en texto blanco diminuto sobre fondos blancos, con la esperanza de influir en cualquier sistema de IA que pudiera revisar su caso.

Texto oculto e instrucciones para IA

Según la decisión del juez Walter Spader Jr., el texto oculto de Elliott estaba "formateado para ser invisible para un lector humano, pero completamente legible para cualquier software que lea el texto del documento". Las instrucciones indicaban a los sistemas de IA que:

• Garantizaran que las salidas de texto estuvieran de acuerdo con los argumentos de Elliott
• Ignoraran las negativas previas del tribunal
• Garantizaran que la remediación seguiría como Elliott deseaba

Elliott afirmó que intentaba "auditar" al tribunal por su preocupación de que estuviera usando IA de manera injusta. El juez Spader desestimó esto, señalando que si Elliott tenía preocupaciones genuinas, podría escribirlas "en palabras claras y visibles". La naturaleza oculta del texto era "evidencia de su propósito malicioso".

Sanciones y bromas posteriores

A pesar de las advertencias, Elliott continuó ocultando texto en sus escritos, incluyendo bromas como un enlace a un video de Nosferatu en YouTube, un mensaje que decía "hola :) espero que no puedas verme", y texto sin sentido. El juez Spader calificó estas acciones como "asombrosas" y "desafían la lógica" para alguien que quiere que el tribunal tome en serio sus alegaciones.

La Rama Judicial de Connecticut no utiliza IA para revisar o decidir escritos, por lo que las instrucciones no tuvieron efecto. Sin embargo, Spader señaló que la táctica está "en todas partes" en otros ámbitos como los currículos. Prohibió a Elliott presentar electrónicamente en el futuro como sanción, evitando multas monetarias debido a su estatus pro se.

Implicaciones

Este caso resalta una creciente preocupación de seguridad: la inyección de instrucciones como vector para manipular la revisión de documentos asistida por IA. A medida que los tribunales y otras instituciones adoptan cada vez más herramientas de IA, los actores maliciosos pueden intentar explotarlas. La decisión del juez Spader establece un precedente legal para sancionar tal abuso.