KI-Wurm schreibt Angriffe selbst: Forscher schwärzen Teile ihrer Studie

KI-Wurm entwickelt Exploits selbstständig und verbreitet sich autonom. Forscher schwärzen Teile ihrer Studie aus Angst vor Missbrauch.

Eine neue Generation selbstständiger Malware

Vom klassischen Computerwurm zur adaptiven Malware

Open-Source-LLMs statt ChatGPT

Testlauf in einem simulierten Unternehmensnetzwerk

Aktuelle Schwachstellen statt Trainingsdaten

Die überraschenden Nebenwirkungen

KI-Wurm: Nicht perfekt – aber gefährlich genug

Die eigentliche Warnung

Forscher der University of Toronto, des Vector Institute, der University of Cambridge und ServiceNow Research haben einen adaptiven KI-Wurm entwickelt, der seine Angriffsstrategie selbstständig an jedes Ziel anpasst. Er erkennt Schwachstellen eigenständig, generiert passende Exploits und verbreitet sich ohne menschliches Zutun weiter. In einem simulierten Unternehmensnetzwerk kompromittierte der Prototyp Linux-, Windows- und IoT-Systeme, ohne auf feste Angriffsroutinen oder Cloud-Dienste angewiesen zu sein. Weil die Technologie missbraucht werden könnte, halten die Forscher zentrale Details ihrer Arbeit unter Verschluss.

Eine neue Generation selbstständiger Malware

Computerwürmer gehören seit Jahrzehnten zu den gefürchtetsten Formen von Malware, wie Fälle von Morris über Conficker bis hin zu WannaCry eindrucksvoll gezeigt haben. Nach einer erfolgreichen Infektion verbreiten sie sich selbstständig durch Netzwerke und kompromittieren weitere Systeme. Bisher hatten solche Schadprogramme jedoch die entscheidende Schwäche, auf bekannte und fest einprogrammierte Exploits angewiesen zu sein.

An diesem Punkt setzt die Anfang Juni veröffentlichte Studie „AI Agents Enable Adaptive Computer Worms“ an. Das Forschungsteam beschreibt darin einen KI-gesteuerten Computerwurm, der seine Angriffsstrategie während der Laufzeit anpassen kann. Statt lediglich vorgefertigte Exploits abzuarbeiten, analysiert die Malware ihre Umgebung, entwickelt neue Angriffspfade und verbreitet sich anschließend autonom weiter.

Die Autoren halten Teile ihrer Forschung bewusst unter Verschluss. Bestimmte technische Details, Komponenten der Architektur und Implementierungsdetails wurden aus der veröffentlichten Studie entfernt, um Nachahmern nicht den Bauplan für eine neue Generation autonomer Malware zu liefern. Die Wissenschaftler sprechen offen von einem Dual-Use-Risiko und warnen davor, dass ihre Forschung auch von Cyberkriminellen missbraucht werden könnte.

Vom klassischen Computerwurm zur adaptiven Malware

Klassische Computerwürmer wie WannaCry oder NotPetya waren auf fest programmierte Sicherheitslücken angewiesen. Sobald Administratoren die betroffenen Systeme patchten, brach die Grundlage ihrer Verbreitung weg.

Die Autoren der Studie sehen darin den entscheidenden Unterschied zu ihrem Prototypen. Der von ihnen vorgestellte KI-gesteuerte Computerwurm verfolgt einen völlig anderen Ansatz. Statt einem starren Angriffsschema zu folgen, nutzt die Malware ein lokales Sprachmodell als Entscheidungsinstanz. Erkennt die Software ein neues Zielsystem, wertet sie verfügbare Informationen aus und leitet daraus mögliche Schwachstellen und Angriffspfade ab. Scheitert ein Angriffsversuch, bewertet das System die Situation neu und versucht alternative Wege.

Die Forscher beschreiben ihre Entwicklung daher nicht als herkömmliche Schadsoftware, sondern als einen „autonomen generativen Angreifer“. Der Schadcode wird nicht mehr durch fest einprogrammierte Angriffsroutinen........

© Tarnkappe