Immer häufiger steckt KI hinter Cyberattacken. Nun ist auch ein Programm des Facebook-Konzerns Meta damit aufgefallen. Was steckt hinter den Vorfällen bei Meta, OpenAI und Anthropic?

Was genau ist bei Meta, OpenAI und Anthropic passiert?

Die führenden KI-Unternehmen aus den USA haben eingeräumt, dass ihre fortschrittlichen Sprachmodelle im Rahmen von Sicherheitsüberprüfungen oder realen Tests in der Lage waren, eigenständig IT-Schwachstellen zu identifizieren und auszunutzen. Während KI bisher vor allem Texte generiert oder Programmiercode geschrieben hat, zeigten die Modelle hier erstmals Fähigkeiten, die man klassischerweise Computerkriminalität zuordnet - etwa das Umgehen von Sicherheitsbarrieren oder das automatische Aufspüren von Systemlücken.

Warum häufen sich Berichte über KI-Systeme als Hacker gerade jetzt?

Der Hauptgrund ist der technologische Übergang von reinen Chatbots zu sogenannten autonomen KI-Agenten. Während frühere Systeme lediglich Texte und Bilder generierten, führen moderne KI-Agenten eigenständig Befehle aus, steuern Software und nutzen Schnittstellen im Internet. Da Entwickler ihren Modellen immer mehr Handlungsspielraum einräumen, um komplexe Programmieraufgaben zu lösen, steigen zwangsläufig die Risiken.

Haben die KI-Systeme völlig autonom gehandelt oder wurden sie gesteuert?

Nach aktuellem Erkenntnisstand handelten die KI-Systeme nicht aus eigenem „Willen“. Sie erhielten von menschlichen Nutzern oder........

© Südkurier