Forscher der Universität Toronto demonstrieren KI-Wurm, der durch kostenlose Open-Weight-Modelle betrieben werden kann

Forscher des CleverHans Lab an der University of Toronto haben eine neue Art von Malware demonstriert: einen KI-gestützten Wurm, der öffentlich zugängliche Open-Weight-Modelle nutzt, um seine Verbreitungsstrategie in Echtzeit anzupassen. Unter der Leitung von Nicolas Papernot baute das Team einen Proof-of-Concept-Prototypen in einem sicheren, geschlossenen digitalen Labor und veröffentlichte seine Ergebnisse am 2. Juni 2026. Die Arbeit gilt als die erste, die zeigt, dass kleine, kostenlose KI-Modelle – nicht hochmoderne, teure Systeme – Würmer antreiben können, die Kontrolle über Netzwerke übernehmen, Rechenleistung kapern und ausgeklügelte Angriffe nahezu kostenlos durchführen können.

Funktionsweise

Traditionelle Würmer folgen einem festen Skript, das von einem Menschen programmiert wurde. Wenn sie auf eine Verteidigung stoßen, für deren Überwindung sie nicht ausgelegt sind, scheitern sie. Papernots KI-Wurm durchbricht dieses Muster. Er verwendet ein kostenloses Open-Weight-Modell (z. B. aus dem wachsenden Ökosystem herunterladbarer Modelle), um jedes Zielgerät zu bewerten, bekannte Schwachstellen zu identifizieren und seine Angriffsstrategie spontan anzupassen. Der Wurm kopiert sich selbst von Gerät zu Gerät, ohne dass Benutzer klicken oder etwas bemerken.

Das Team konzentrierte sich auf Open-Weight-Modelle – Modelle, deren Gewichte frei verfügbar sind –, weil diese von Sicherheitsvorkehrungen befreit und für böswillige Zwecke optimiert werden können. Die Cybersicherheitsgemeinschaft unterschätzt diese Bedrohung oft und geht davon aus, dass solch kleinen Modellen die Kraft fehlt, echten Schaden anzurichten. Die Forschung der U of T widerlegt diese Annahme.

Wichtige Implikationen

• Keine teure KI nötig: Der Wurm kann mit kostenlosen, herunterladbaren Modellen gebaut werden, die jeder modifizieren kann.
• Anpassung in Echtzeit: Im Gegensatz zu skriptbasierten Würmern passt dieser KI-Wurm seinen Ansatz während der Verbreitung an und nutzt gerätespezifische Schwachstellen aus.
• Breite Angriffsfläche: Jedes Online-Gerät – von Laptops über HVAC-Systeme bis hin zu Energienetzsteuerungen – ist ein potenzielles Ziel.
• Aktuelle Abwehrmaßnahmen sind unzureichend: Bestehende Schutzmaßnahmen sind für statische, skriptbasierte Würmer ausgelegt; sie sind noch nicht bereit für adaptive KI-gesteuerte Varianten.

Verantwortungsvolle Offenlegung

Vor der Veröffentlichung teilten die Forscher ihre Ergebnisse mit nationalen Wissenschafts-, Sicherheits- und Verteidigungsbehörden, um eine verantwortungsvolle Veröffentlichung zu beraten. Die veröffentlichte Version wurde sorgfältig redigiert, um alle Informationen zu entfernen, die Angreifern helfen könnten. Papernot erklärte: "Der Grund für diese Forschung ist es, die Sicherheit des digitalen Ökosystems zu gewährleisten, auf das wir alle angewiesen sind – um Menschen zu schützen."

Für Entwickler und Sicherheitsteams

Diese Forschung dient als Frühwarnung. Wenn Sie im Bereich Cybersicherheit, Netzwerkverteidigung oder KI-Sicherheit arbeiten, sollte dieses Papier Ihr Bedrohungsmodell informieren. Erwarten Sie, dass KI-gestützte Würmer früher als von vielen erwartet zu einer praktischen Bedrohung werden. Die Arbeit des Teams versetzt die Gemeinschaft in die Lage, proaktiv Gegenmaßnahmen zu entwickeln.