Cyberkriminelle wehren sich gegen KI-generierten Schrott in Untergrundforen

Eine Studie, die 97.895 KI-bezogene Gespräche in Cyberkriminalitätsforen vom Start von ChatGPT im Jahr 2022 bis Ende 2024 analysiert, zeigt eine wachsende Abneigung gegenüber generativen KI-Inhalten. Forscher der Universitäten Edinburgh, Cambridge und Strathclyde beobachteten Gegenwind in Foren wie Hack Forums, wo sich Nutzer darüber beschwerten, dass Mitglieder „stichpunktartige Erklärungen" grundlegender Sicherheitskonzepte und generische KI-generierte Antworten posten.

Wichtigste Erkenntnisse

• Soziale Störung: Ben Collier, Sicherheitsforscher an der Universität Edinburgh, stellt fest, dass diese Foren „im Wesentlichen soziale Räume" sind, in denen Nutzer sich einen Ruf aufbauen. KI-Beiträge untergraben Behauptungen über Fähigkeiten und stören die Freundschaftsbildung.
• Direkte Beschwerden: Zitate sind unter anderem „Ich sehe viele Mitglieder, die KI für ihre Beiträge nutzen, und das regt mich auf" und „Hört auf, KI-Scheiße zu posten." Ein Nutzer schrieb: „Wenn ich mit einem KI-Chatbot reden wollte, gibt es viele Websites dafür … ich komme hierher für menschliche Interaktion."
• Qualität vs. Quantität: Weniger qualifizierte Cyberkriminelle überschwemmen Foren mit KI-generierten Inhalten, „qualitativ minderwertigen Beiträgen" und automatisierten Erklärungen, was etablierte Mitglieder verärgert.
• Reputationsspiel: Neulinge nutzen KI, um ihren Ruf aufzubessern, indem sie polierte, aber oberflächliche Inhalte posten, was ihnen Misstrauen von erfahrenen Nutzern einbringt.
• Elite-Skepsis: Ian Gray, VP bei Flashpoint, sagt, dass anspruchsvolle Bedrohungsakteure „vorsichtig gegenüber KI-generierten Projekten in Foren oder Marktplätzen" sind und sich der Schwächen der Schutzmechanismen kommerzieller Modelle und der möglichen Offenlegung der Infrastruktur bewusst sind.

Kontext

Während einige organisierte Betrüger KI für realistischen Gesichtsaustausch, Übersetzung und Codegenerierung nutzen, betrachtet die untere Hackergemeinschaft KI-Müll als Bedrohung der Forenkultur. Die Studie merkt auch an, dass Googles KI-Übersichten die Forenaktivität reduzieren. Wie ein anonymer Kommentator es ausdrückte: „Das hat niemand verlangt – wir wollen, dass du die Seite verbesserst, hör auf, für neue Funktionen zu verlangen."