Risiken und Chancen von Künstlicher Intelligenz KI wird selbstständig – doch was bedeutet das?

Das Logo von OpenAI, dem Entwickler von ChatGPT, wird auf dem Bildschirm eines Smartphones angezeigt.

Analyse | Berlin · KI-Agenten können inzwischen eigenständig digitale Angriffe durchführen. Das birgt auf der einen Seite neue Risiken. Zugleich könnten KI-Agenten die Produktivität der Wirtschaft deutlich steigern – und die Arbeitswelt revolutionieren. Welche Szenarien sind denkbar?

Diese Audioversion wurde künstlich generiert. Mehr Infos | Feedback senden

Künstliche Intelligenz (KI), die eigenständig handelt, aus einer Testumgebung ausbricht und einen Hackerangriff auf ein externes Unternehmen startet? Noch vor wenigen Jahren klangen solche Szenarien wie eine ferne Dystopie – mittlerweile sind sie Realität. Erst vor wenigen Wochen berichtete das US-Unternehmen OpenAI von einem „nie dagewesenen Cybervorfall“, bei dem ein eigener KI-Agent einen Hackerangriff auf eine Programmierplattform startete. Auch der Rivale Anthropic gab unlängst bekannt, dass sich seine KI-Modelle bei einem Test „unbefugten Zugriff“ auf die Systeme von drei Organisationen verschafft hätten. Vergleichbare Berichte haben sich diesen Sommer gehäuft. Was steckt dahinter?

Nachfrage beim KI-Experten Thomas Köhler. Er hat mehrere Sachbücher über Cybersicherheit verfasst. In Köhlers Augen liegt der Hauptgrund für die neuen Risiken im Übergang von Chatbots zu sogenannten autonomen KI-Agenten. Während frühere Systeme lediglich Texte und Bilder generierten, führen moderne KI-Agenten eigenständig........

© RP Online