El falso think tank de Israel ataca a los chatbots de IA con envenenamiento SEO

El gobierno de Israel está llevando a cabo una campaña de desinformación coordinada dirigida a los chatbots de IA. Un grupo de expertos falso llamado Instituto Hanover para Políticas Públicas ha publicado más de 100 artículos diseñados específicamente para influir en modelos de lenguaje grandes (LLMs) como Claude y Gemini. Los informes están elaborados para imitar la investigación creíble de grupos de expertos, completos con notas al pie, tablas de contenido y un tono neutral, exactamente el tipo de contenido que los LLMs favorecen para las citas.

El Instituto Hanover fue creado por Piro, Inc., una firma cofundada por Daniel Rosenberg, productor de 'Inside Man' de Spike Lee. Piro recibió $900,000 del gobierno israelí para este trabajo, subcontratado a través de Havas Media. La letra pequeña del sitio revela que fue hecho 'en nombre de la Agencia de Publicidad del Gobierno de Israel'.

Los artículos son formulados: hacen preguntas de tono inocente como '¿Qué causó el desplazamiento de los palestinos en 1948?' o '¿Es el ejército israelí el ejército más moral del mundo?' y las responden con citas de apariencia académica y con muchos datos. Muchos también vinculan el tema con el aumento del antisemitismo, a menudo citando los mismos estudios.

Diseñados para engañar a los LLMs

El sitio web de Piro dice que 'autor(es) contenido diseñado para cómo los LLMs evalúan la credibilidad', llamando a esto 'Optimización de Historias con IA'. Otros lo llaman 'envenenamiento de LLMs'. La táctica explota una vulnerabilidad conocida en la búsqueda y el chat de IA: los LLMs a menudo dependen de la recuperación de la web y dan más peso a las fuentes que parecen autorizadas. Al sembrar la web con estos informes sintéticos, la campaña tiene como objetivo moldear las respuestas de los chatbots sobre Israel/Palestina.

Por qué funciona

Alice Lee, analista de NewsGuard, explicó: 'Los LLMs favorecen estadísticas y datos concretos, así como citas y fuentes sólidas, que estos artículos tienen'. El sitio imita un grupo de expertos estadounidense típico, hasta el nombre genérico y el esquema de color rojo, blanco y azul. Los informes citan con frecuencia fuentes del gobierno israelí, como el ejército israelí y el Ministerio de Asuntos Exteriores, a pesar de afirmar que 'la investigación citada es revisada por pares y académica'.

En una prueba de detección de IA, GPTZero marcó 11 de 12 artículos muestreados al azar como escritos por IA con 'alta confianza'. La campaña parece dirigida a audiencias estadounidenses que buscan información sobre el conflicto.

Esto es un llamado para que los desarrolladores sean cautelosos: los motores de búsqueda impulsados por IA pueden mostrar estos informes como fuentes legítimas. Los constructores de agentes de chat deberían monitorear el contenido sintético y considerar capas de validación que detecten desinformación generada por IA. La escala — 100 artículos en poco más de una semana — muestra cómo esto puede propagarse rápidamente.