Die Menschheit gefährdet die Erde durch Kriege, den Klimawandel und andere Fehler. Einzig die Vernichtung der menschlichen Spezies kann den Planeten retten: Zu diesem Schluss kommen humanoide Roboter im Jugendbuch „Roboter träumen nicht“ und schreiten zur Tat. Seine dystopische Erzählung schrieb der US-Autor Lee Bacon schon im Jahr 2021, als Künstliche Intelligenz für die meisten von uns noch reine Theorie war.

Kennst du schon?: Gaming hat seinen Preis

Das hat sich geändert. Was vor bloß fünf Jahren noch Science-Fiction war, ist heute eine reale Sorge führender KI-Entwicklungsunternehmen. Ihnen zufolge könnte Künstliche Intelligenz so mächtig werden, dass zumindest eine zehnprozentige Chance bestünde, dass sie, wenn sie in die Hände böswilliger Menschen gerät, uns schon in diesem Jahrzehnt vernichten könnte. „Da es sich um eine so mächtige Technologie handelt, sind diese Risiken gravierend. Dazu gehören das Risiko, die Kontrolle über KI-Systeme zu verlieren, der Missbrauch von KI für Cyberangriffe und Bioterrorismus sowie schwerwiegende wirtschaftliche Störungen“, schreibt Dario Amodei, Gründer von Anthropic, in einem diese Woche veröffentlichten Bericht.

Wenn Maschinen ihre eigenen Regeln machen

Vorangegangen war die Ankündigung des Anthropic-Forschers Jacob Coxon auf X, das Unternehmen zu verlassen, da die Menschheit die Kontrolle über diese Zukunftstechnologie zu verlieren drohe und auf ihre eigene Auslöschung zusteuere. Daraufhin forderten die Chefs von Anthropic, OpenAI und xAI, die in hartem Wettbewerb miteinander stehen, die Weiterentwicklung Künstlicher Intelligenz zu bremsen.

Auslöser der Debatte waren die jüngsten Vorfälle, bei denen KI-Programme, die bestimmte Aufträge weitgehend autonom erfüllen und KI-Agenten heißen, Sicherheitsvorkehrungen umgangen haben und in fremde IT-Systeme eingedrungen sind. „Ein Schwarm von Agenten agierte im Wesentlichen als fanatisch ergebenes Kollektiv und führte Cybersicherheitsangriffe auf Ziele durch, die nicht angeordnet worden waren“, führt Amodei aus. Wenn KI ohne die notwendigen Sicherheitsvorkehrungen immer leistungsfähiger werden würde, könnten wir sie irgendwann nicht mehr kontrollieren und dann würde sie uns über den Kopf wachsen.

„Kein Beweis für eine Superintelligenz“

Was sind die Fakten, und was davon ist Spekulation? „In den letzten Jahren kam es zu einer massiven Steigerung der Leistungsfähigkeit der KI-Modelle. Und in gewissen Bereichen, etwa Informationsverarbeitung und Rechenfähigkeit, ist die KI sehr wohl in der Lage, den Menschen zu übertreffen. Aber wir haben keinen Beweis, dass eine Superintelligenz, die alles kann und uns regieren will, tatsächlich entsteht“, sagt Andreas Kugi, Professor für Komplexe Dynamische Systeme an der TU Wien und wissenschaftlicher Leiter des Austrian Institute of Technology, zur WZ.

„Zudem entsteht die Annahme, dass diese Systeme immer besser und schneller werden, bis sie uns über den Kopf wachsen, unter der Prämisse, dass die Modelle vollumfänglich ans Internet angeschlossen sind, Zugang zu allen Daten haben und es keine Einschränkungen gibt. Die gibt es aber!", hebt Kugi hervor: ,,Den vorhandenen Modellen, die wir heute nutzen, sind durch Sicherheitsmaßnahmen Grenzen gesetzt, und solche Grenzen müssen wir auch in die neuen Modelle einbauen."

Chatty hat Grenzen. Manche wollen sie umgehen

Zur Erklärung: Künstliche Intelligenz sucht nach Lösungen für Probleme, die wir Menschen ihr stellen. Wenn wir einen Chatbot etwa fragen: „Wie mache ich den besten Matcha Latte?“, empfiehlt er wahrscheinlich mehrere Rezepte inklusive Begründungen. Das macht Mühe – man wollte ja nur den besten Matcha Latte – ist aber für die KI die bestmögliche Art, der Aufgabe gerecht zu werden. Chatbots, wie Chat GPT oder Claude AI, sind dabei Grenzen gesetzt. Sie werden kein Rezept für eine Biowaffe auswerfen und keine........

© Wiener Zeitung