Gefahr durch Super-Intelligenz? Die KI-Notbremse – Amerikas mächtigste Tech-Konzerne rufen nach Regeln

Die Bildkombo zeigt (v.l.) Elon Musk, Dario Amodei und Sam Altman.

Analyse | Washington · Die KI-Fürsten des Silicon Valley ziehen die Notbremse. Angeführt von Anthropic-Gründer Dario Amodei warnen sie vor massiven Gefahren, falls sich das Tempo der Entwicklung bei der künstlichen Intelligenz nicht verlangsame. Panik, Verantwortung oder Kalkül?

Diese Audioversion wurde künstlich generiert. Mehr Infos | Feedback senden

Sechs bis zwölf Monate hat die Menschheit Zeit, eine Katastrophe abzuwehren. Mehr nicht. Wenn es nicht gelinge, in dieser Zeit das Tempo aus dem Wettrennen um die Entwicklung der künstlichen Intelligenz herauszunehmen, drohe ein Desaster. Die Rede ist von Hunderten Milliarden Dollar an Schäden, die außer Kontrolle geratene, leistungsstarke KI-Agenten anrichten könnten. Die sogenannten Botnets haben das Potenzial, im globalen Maßstab Infrastruktur und Unternehmen zu zerstören.

Diese Warnung kommt vom Gründer des KI-Riesen Anthropic, Dario Amodei, der sie am Samstag in einem 3800 Wörter langen Essay veröffentlichte. Darin plädiert er unter dem Titel „We Must Pace the Frontier” für das Ziehen der KI-Notbremse. Er schlägt einen Drei-Stufen-Plan vor, der den Experten Zeit geben soll, die Kontrolle über die künstliche Intelligenz zu........

© RP Online