Angriff in Australien : Open AI missbraucht die Welt als Testlabor

Sam Altman pocht auf Standards bei der KI-Sicherheit. Der jüngste Angriff seiner Systeme auf die australische Krankenversicherung zeigt aber: Sein Unternehmen missachtet einfachste gesellschaftliche Normen.

Zum Leben im Zeitalter Künstlicher Intelligenz gehört seit gestern wohl, dass man sich gelegentlich die Frage stellen sollte: Was weiß Sam Altman eigentlich über meinen Gesundheitszustand? Das dürften sich zumindest einige Australier fragen. Denn gestern ist bekannt geworden, dass sich eine KI von Altmans Firma Open AI Zugang zu nicht öffentlichen Statistiken auf einem Portal der staatlichen Krankenversicherung Medicare verschafft hat.

F.A.Z.-Artikel häufiger in Ihren Suchergebnissen sehen

KI ist nicht auf menschliche Werte und Normen ausgerichtet

Es handelt sich um ein Problem mit dem „Alignment“, also der Ausrichtung von KI auf menschliche Werte und Normen. Der Agent sollte Statistiken heraussuchen. Dass er das auf legalem Wege tun und dabei nicht unbefugt in Regierungssysteme eindringen soll, scheint bei seinen Handlungen wohl keine übergeordnete Rolle gespielt zu haben.

Das Alignment-Problem ist in der Branche lange bekannt........

© Frankfurter Allgemeine