Algorithmen, Fairness und Macht

Fairness ist messbar – aber nicht alles zugleich

Jon Kleinberg, Sendhil Mullainathan und Manish Raghavan (2016) sowie Alexandra Chouldechova (2017) bewiesen: Unterscheiden sich Gruppen in ihren Grundraten, kann ein Risikowert nicht zugleich für jede Gruppe gleich gut kalibriert sein und gleiche Fehlerraten haben. Ein Fairnesskriterium zu wählen, ist deshalb eine moralische Entscheidung, kein technisches Detail. Wer algorithmische Entscheidungen verteidigt, fügt hinzu, dass sich voreingenommene Menschen schwer überprüfen lassen, während man Eingaben und Ergebnisse eines Algorithmus testen und korrigieren kann; gut regulierte Algorithmen könnten Diskriminierung daher sogar verringern (Kleinberg, Ludwig, Mullainathan und Sunstein, 2018). Brian Hedden (2021) zeigt mit einem Gedankenexperiment, dass ein vollkommen faires Verfahren fast alle üblichen statistischen Kriterien verletzen kann – die meisten von ihnen können also keine notwendigen Bedingungen der Fairness sein.

Altes Unrecht in neuem Code

Soziologinnen, Soziologen und die kritische Technikforschung argumentieren, das Problem liege weniger in den Formeln als in der Welt, aus der sie lernen. Systeme, die mit früheren Entscheidungen trainiert werden, wiederholen frühere Diskriminierung – bei Einstellungen, in der Polizeiarbeit oder in der Sozialverwaltung – und wirken dabei neutral; Ruha Benjamin („Race After Technology“, 2019) nennt das in Anspielung auf die Jim-Crow-Gesetze der Rassentrennung den „New Jim Code“. Joy Buolamwini und Timnit Gebru (2018) fanden, dass kommerzielle Gesichtsanalyse-Systeme das Geschlecht dunkelhäutiger Frauen weit häufiger falsch bestimmten als das hellhäutiger Männer, und Virginia Eubanks („Automating Inequality“, 2018) zeigt, wie automatisierte Sozialsysteme arme Menschen einer Überwachung unterwerfen, die anderen erspart bleibt. Fairnessmaße reichen nach dieser Auffassung nicht: Entscheidend ist, wer die Systeme entwirft, wozu – und ob manche überhaupt gebaut werden sollten.

Macht über Daten

Shoshana Zuboff („The Age of Surveillance Capitalism“, 2019) argumentiert, die führenden Plattformen beanspruchten menschliche Erfahrung als kostenlosen Rohstoff: Sie sammeln einen „Verhaltensüberschuss“, der über das hinausgeht, was ihre Dienste brauchen, machen daraus Vorhersagen, verkaufen diese und zielen am Ende darauf, das Verhalten selbst zu formen. Nick Couldry und Ulises Mejias („The Costs of Connection“, 2019) sprechen von „Datenkolonialismus“: einer neuen Aneignung menschlichen Lebens, die nach ihrer Auffassung die Logik des historischen Kolonialismus fortsetzt. Über die Abhilfe sind sich die Kritikerinnen und Kritiker uneins – stärkere Datenschutzrechte, Wettbewerbsrecht, öffentliche oder genossenschaftliche Alternativen –, einig aber darin, dass eine Ethik einzelner Algorithmen die Konzentration von Macht bei wenigen Unternehmen übersieht, denen Daten, Rechenkapazität und Modelle gehören.

Von Prinzipien zur Praxis

Floridi und Josh Cowls (2019) fassten Dutzende Leitlinien zur KI-Ethik in fünf Prinzipien zusammen: Wohltun, Nichtschaden, Autonomie, Gerechtigkeit und Erklärbarkeit. Bloße Prinzipien, warnt Floridi, laden zu „ethics shopping“, „ethics bluewashing“ und „ethics dumping“ ein – sich die passenden Regeln auszusuchen, das eigene Ansehen mit ethischen Bekenntnissen aufzupolieren oder fragwürdige Forschung dorthin zu verlagern, wo die Regeln schwächer sind. Sie müssen in Recht, Gestaltung und Prüfverfahren übersetzt werden, wie es die EU mit ihrer nach Risiken gestuften KI-Verordnung begonnen hat. Vallor ergänzt eine tugendethische Sicht: Technik verändert die Gewohnheiten, durch die wir unseren Charakter bilden; Gesellschaften brauchen deshalb „technomoralische“ Tugenden wie Ehrlichkeit, Demut, Mut und praktische Klugheit, um gut mit ihr zu leben.

Vertreten von

• Luciano Floridigeb. 1964
• Shannon Vallorzeitgenössisch

Risiken an der Spitze der Entwicklung

Bostrom („Superintelligenz“, 2014) und der Informatiker Stuart Russell („Human Compatible“, 2019) argumentieren, Systeme, die leistungsfähiger sind als Menschen, könnten Ziele verfolgen, die von unseren abweichen; sie verlässlich an menschlichen Werten auszurichten („alignment“), sei ein ungelöstes technisches und philosophisches Problem. 2023 unterzeichneten Hunderte KI-Forschende und Unternehmenschefs eine Erklärung aus einem einzigen Satz: Das Risiko der Auslöschung durch KI zu verringern, solle neben Pandemien und Atomkrieg eine globale Priorität sein; ein internationaler Wissenschaftsbericht unter Vorsitz von Yoshua Bengio (2025) untersuchte solche Risiken zusammen mit heutigen Schäden. Kritikerinnen und Kritiker wie Emily Bender und Timnit Gebru halten dagegen, Spekulationen über Superintelligenz lenkten von den konkreten Schäden bestehender Systeme ab – Verzerrungen, Ausbeutung von Datenarbeiterinnen und -arbeitern, Machtkonzentration – und nützten den Unternehmen, die vom Hype profitieren.

Vertreten von

• Nick Bostromgeb. 1973