Ciberdelincuentes se resisten a la porquería generada por IA en foros clandestinos

Un estudio que analizó 97,895 conversaciones relacionadas con IA en foros de ciberdelincuencia desde el lanzamiento de ChatGPT en 2022 hasta finales de 2024 revela un creciente resentimiento hacia el contenido generativo de IA. Investigadores de la Universidad de Edimburgo, la Universidad de Cambridge y la Universidad de Strathclyde observaron rechazo en foros como Hack Forums, donde los usuarios se quejaban de miembros que publicaban 'explicaciones con viñetas' de conceptos básicos de seguridad y respuestas genéricas generadas por IA.

Hallazgos Clave

• Disrupción social: Ben Collier, investigador de seguridad en la Universidad de Edimburgo, señala que estos foros son 'esencialmente espacios sociales' donde los usuarios construyen reputaciones. Las publicaciones de IA socavan las afirmaciones de habilidad y dificultan la creación de amistades.
• Quejas directas: Incluyen citas como 'Veo a muchos miembros usando IA para hacer sus hilos/publicaciones y me enfurece' y 'Dejen de publicar mierda de IA'. Un usuario escribió: 'Si quisiera hablar con un chatbot de IA, hay muchos sitios web para hacerlo... Vengo aquí por interacción humana'.
• Calidad vs. cantidad: Ciberdelincuentes de bajo nivel están vertiendo contenido generado por IA, inundando los foros con 'publicaciones de baja calidad' y explicaciones automatizadas, molestando a los miembros establecidos.
• Juego de reputación: Los recién llegados usan IA para inflar su reputación publicando contenido pulido pero superficial, exponiéndose a la desconfianza de usuarios experimentados.
• Escepticismo de élite: IanVP de Flashpoint dice que los actores de amenazas sofisticados son 'cautelosos con los proyectos generados por IA en foros o mercados' y son conscientes de las debilidades en las barreras de protección de los modelos comerciales y la posible exposición de infraestructura.

Contexto

Mientras que algunos estafadores organizados usan IA para intercambio de rostros realista, traducción y generación de código, la comunidad de hackers de menor nivel considera el 'slop' de IA como una amenaza para la cultura del foro. El estudio también señala preocupaciones de que los resúmenes de búsqueda de IA de Google están reduciendo el tráfico de los foros. Como dijo un comentarista anónimo: 'Nadie está pidiendo esto; queremos que mejores el sitio, dejes de cobrar por nuevas funciones'.