Die Forderung der Bundesbeauftragten für Antidiskriminierung, Ferda Ataman, Diskriminierung durch KI und Algorithmen gesetzlich klar zu verbieten, ist überfällig. Dass das Allgemeine Gleichbehandlungsgesetz (AGG) bislang kaum Antworten darauf gibt, was passiert, wenn nicht ein Mensch, sondern ein Code diskriminiert, zeigt, wie sehr das Recht der technischen Entwicklung hinterherhinkt. Wenn automatisierte Systeme über Bewerbungen, Kredite oder Wohnungen entscheiden, geht es nicht um Science-Fiction, sondern um ganz reale Lebenschancen.

Dabei wäre es falsch, KI nur als Bedrohung zu begreifen. Richtig eingesetzt und entsprechend kontrolliert, kann sie blinde Flecken menschlicher Intuition korrigieren und bürokratische Prozesse effizienter und gerechter gestalten.

Doch KI ist nicht neutral, denn die Daten, mit denen sie trainiert wird, sind ein digitales Spiegelbild unserer Gesellschaft. Wenn Frauen schlechter bezahlt werden, migrantisch gelesene Namen seltener zu Bewerbungsgesprächen führen oder bestimmte Viertel systematisch abgewertet werden, dann reproduziert ein lernendes System eben genau diese Muster.

Außerdem ist KI auch ein Produkt konkreter Eigentums- und Machtverhältnisse. Wer sie kontrolliert, kann sie ideologisch beeinflussen. So veränderte Elon Musk seinen Chatbot Grok mehrfach, weil ihm seine Antworten politisch nicht passten. Gerade deshalb reicht Selbstregulierung oder wohlmeinende Unternehmensethik nicht aus.

Ein reformiertes AGG muss Transparenz, Auskunftsrechte und klare Verantwortlichkeiten schaffen. Die Debatte um KI-Diskriminierung ist keine Nischenfrage für Technikexpert*innen, sondern eine der großen sozialen Fragen unserer Zeit. Wer Gleichberechtigung ernst meint, darf die stetig wachsende digitale Infrastruktur unserer Gesellschaft nicht ungeregelt lassen.

© Neues Deutschland