Man muss sich schon aktiv dafür entscheiden, einen Satz zu sagen wie: »Sobald keine Täuschung mehr nötig ist, löscht [die Künstliche Intelligenz] die Menschheit aus.«  Der US-amerikanische KI-Aktivist Daniel Kokotajlo hat diesen Satz gesagt, wenn auch etwas schamhaft verpackt in ein mögliches »Szenario«.

Interessanterweise handelt es sich bei ihm nicht um denjenigen Daniel Kokotajlo, der 2017 einen viel beachteten Film über die Zeugen Jehovas gedreht hat  . Einer Art Weltuntergangssekte gehört der KI-Kokotajlo aber trotzdem an. Im US-amerikanischen Raum nennt man sie »A.I. Doomsayers«, KI-Weltuntergangsprediger.

Sascha Lobo, Jahrgang 1975, ist Autor und Strategieberater mit den Schwerpunkten Internet und digitale Technologien. Gemeinsam mit Jule Lobo beschäftigt er sich im Podcast »Feel the News – Was Deutschland bewegt«  mit aktuellen Debattenthemen.

Fünf Schritte zurückgetreten, die Technologiegeschichte der vergangenen Jahrtausende im Blick, lässt sich gut erkennen: Fast jeder neue Technologie-Großkomplex hat eigene Doomsayers hervorgebracht. Bisher kommen die meisten ihrer Warnungen retrospektiv nicht überragend luzide daher. In den 1830ern etwa war es unter Wissenschaftlern und Intellektuellen Mode, vor der Eisenbahn zu warnen, deren Geschwindigkeit das Nervensystem schädige  und geistige Zerrüttung beim Menschen verursache. Vielleicht könnten boshafte Leute argumentieren, dass geistige Zerrüttung beim Menschen heute nicht selten vorkomme. Allerdings scheint die Eisenbahn eher nicht die primäre Ursache dahinter zu sein.

Aber diesmal ist alles anders. Dieses Mal ist die neue Großtechnik künstliche Intelligenz wirklich, wirklich Welt vernichtend. Besagter Daniel Kokotajlo (der richtige) hat bis 2024 bei OpenAI gearbeitet, als »Governance Researcher«, also als KI-Kontrollforscher. Dann wechselte er ins Lager der Whistleblower und wird seitdem weltweit durch die Medien gereicht. Und das ist auch schon ein nicht geringer Teil des Problems.

Im Fall des OpenAI-Whistleblowers ist dessen Geschichte ein paar Monate lang........

© Spiegel Online