Wer ist verantwortlich, wenn Maschinen Fehler machen?

Von Livio Spaar, MA-Student Kulturwissenschaften

Algorithmen wirken praktisch und effizient. Doch sie verändern unser Verständnis von Verantwortung und lassen bei Problemen offen, wer eigentlich die Schuld trägt.

Organisationen setzen immer häufiger Algorithmen ein, um Entscheidungen zu treffen oder vorzubereiten. Sie beantworten E-Mails, sortieren Bewerbungen, oder berechnen Wahrscheinlichkeiten. Das wirkt auf den ersten Blick praktisch und effizient. Doch eine Studie von Cristina Besio und ihrem Forschungsteam zeigt, wie sich dadurch unser Verständnis von Verantwortung verändert und wie schnell es unklar wird, wer bei Problemen schuld ist.

Algorithmen sind Anweisungen, die für eine Maschine programmiert werden, damit sie selbstständig Entscheidungen treffen kann. Wenn zum Beispiel eine E-Mail mit dem Betreff «Bewerbung» eingeht, kann der Algorithmus diese automatisch im richtigen Ordner abspeichern. Wenn ein Arbeitgeber 100 Bewerbungen erhält, kann ein Algorithmus eine Auswahl von 10 geeigneten Personen vorschlagen – etwa diejenigen, die Wörter wie «Teamplayerin» oder «Leadership» verwenden. Dies spart Zeit, aber die Ergebnisse werden selten hinterfragt. Gerne wird geglaubt, dass Maschinen keine Fehler machen – doch das ist falsch.

Wenn Fehler passieren, wird es problematisch: Wer ist verantwortlich? Algorithmen können zwar Arbeiten übernehmen, dafür aber keine Verantwortung tragen. Es ist kaum zu erklären, warum die Maschine zum Beispiel eine Person falsch eingestuft hat. Die Maschine selbst ist sich des Fehlers nicht bewusst. Damit beginnt eine Suche nach Schuldigen: War es der Mensch oder doch die Maschine? Waren es die Programmiererinnen und Programmierer, Nutzerinnen oder doch die Daten oder eine halluzinierende Maschine?

Besio und ihr Team beschreiben diese komplizierte Situation als «kontroverse Verantwortlichkeit». Sie entsteht, wenn viele Elemente zusammenwirken: menschliche Entscheidungen, technische Modelle, Datensätze und organisatorische Vorgaben. Die Gleichzeitigkeit dieser Elemente macht das Problem unübersichtlich und es bleibt ein Rätsel, wo die Fehler ihren Ursprung haben.

Für Organisationen hat das Folgen. Kontrollmechanismen, die auf klaren Zuständigkeiten beruhen, funktionieren schlechter. Mitarbeitende vertrauen ihren Führungskräften weniger, weil deren Urteile nicht mehr nachvollziehbar sind. Zugleich entsteht ein Druck, sich trotz Zweifel auf die algorithmischen Ergebnisse verlassen zu müssen.

Doch es gibt auch positive Seiten. Gemäss den Autoren können neue Handlungsspielräume entstehen, wenn Verantwortlichkeiten unklar sind. Mitarbeitende können kreative Lösungen suchen, ohne sofort Sanktionen befürchten zu müssen. Ob diese Handlungsspielräume aber geschaffen und genutzt werden, hängt immer von der jeweiligen Organisation und ihren Mitarbeitenden ab.

In der Kolumne «Soziologischer Standpunkt» äussern sich Soziologinnen und Soziologen der Universität Luzern zu Gesellschaftsthemen. Quelle: Besio, C. et al. (2021): Verantwortungsvolle Maschinen ohne Verantwortlichkeit. Datenintensive Algorithmen in Organisationen. Soziale Systeme 26, (1-2).

Wer ist verantwortlich, wenn Maschinen Fehler machen?

Algorithmen wirken praktisch und effizient. Doch sie verändern unser Verständnis von Verantwortung und lassen bei Problemen offen, wer eigentlich die Schuld trägt.

In unserer Gegenwart, die auf Dauerbetrieb gestellt ist, wirkt das Warten wie ein Fehler im Ablauf. Doch wer genauer hinsieht, entdeckt darin weit mehr: eine eigenständige soziale Praxis, in der sich Macht, wechselseitige Anerkennung und Selbstwahrnehmung verschränken.

Bullshit Jobs: Wenn Arbeit sich sinnlos anfühlt

Der Begriff «Bullshit Job» hat eingeschlagen. Es sind jedoch weniger die Tätigkeiten selbst als vielmehr das Arbeitsumfeld und die sozialen Beziehungen, die darüber entscheiden, ob Menschen ihre Arbeit als sinnvoll empfinden.

Am Beispiel der Zähne

Was Zähne über uns als Gesellschaft verraten: Selbstverantwortung, Prävention – und zeigen, was man hat und kann.

Die einen naschen Guetzli – die anderen unsere digitalen Daten. Wieso wir in einer endlosen Schenk-Schlaufe mit Instagram, Google & Co. gefangen sind.

Weshalb wir mit Betrug leben können

Betrug nimmt zu. Warum wir immer wieder auf Täuschungen hereinfallen, liegt aber nicht nur an raffinierten Betrügern, sondern auch an unseren eigenen Mechanismen, Verluste zu akzeptieren.

Kaum auf dem Sattel, schon mittendrin im sozialen Spiel: Velofahren ist ansteckend

Velofahren ist nicht nur Fortbewegung, sondern auch ein alltägliches Miteinander mit Überholkämpfen und Identitätsfragen.

Soziologischer Standpunkt (Kolumne)

Noch keine Kommentare. Geben Sie die erste Meinung zum Artikel ab.

© Luzerner Zeitung