Gesamtnote · von 5,0
Weapons of Math Destruction
Wie Big-Data-Modelle Ungleichheit verstärken und die Demokratie bedrohen
von Cathy O'Neil
Die Mathematikerin und Ex-Wall-Street-Quant Cathy O'Neil zeigt, wie undurchsichtige Datenmodelle im Stillen über Kredite, Jobs und Strafen entscheiden – und dabei Ungleichheit zementieren.
- Originaltitel
- Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy
- Erschienen
- 2016
- Verlag
- Crown
- Umfang
- 272 Seiten
- Originalsprache
- Englisch
- Genre
- Sachbuch
- Lesezeit Rezension
- 8 Min.
„Modelle sind in Mathematik verpackte Meinungen – und wenn sie im Verborgenen wirken, können sie ganze Leben ruinieren.“
— Cathy O'Neil, Weapons of Math Destruction
Worum es geht
Cathy O'Neil war Mathematikerin in der Wissenschaft, dann Quant bei einem Hedgefonds und schließlich Datenwissenschaftlerin – sie kennt die Modelle, die sie kritisiert, von innen. In diesem Buch nimmt sie sich die wachsende Zahl algorithmischer Entscheidungssysteme vor, die im Verborgenen über Menschen urteilen: bei Jobbewerbungen, Krediten, Versicherungen, Strafmaßen und Schulrankings. Ihre Botschaft ist, dass scheinbar neutrale Mathematik gefährlich werden kann.
Die drei Merkmale gefährlicher Modelle
O'Neil prägt den Begriff „Weapons of Math Destruction“ für Modelle mit drei Eigenschaften: Sie sind intransparent, sie wirken in großem Maßstab, und sie richten Schaden an. Weil ihre Funktionsweise verborgen bleibt, können Betroffene sich kaum wehren oder Fehler korrigieren. Schlimmer noch: Solche Systeme erzeugen oft selbstverstärkende Kreisläufe, in denen Benachteiligung als objektive Vorhersage getarnt immer weiter zementiert wird.
Wirtschaft & Relevanz
Die meisten Beispiele stammen direkt aus der Wirtschaft: Scoring-Modelle entscheiden über Kreditwürdigkeit, Bewerbungssoftware sortiert Kandidaten aus, Zielgruppen-Algorithmen sprechen gezielt verletzliche Konsumenten an. O'Neil zeigt, dass Effizienzgewinne für Unternehmen oft mit verlagerten Kosten für die Schwächsten einhergehen. Damit liefert das Buch eine frühe, einflussreiche Grundlage für die heutige Debatte um faire und auditierbare Algorithmen.
Einordnung
O'Neils Stärke ist die Verbindung aus fachlicher Glaubwürdigkeit und konkreten, oft erschütternden Fällen. Die Beispiele sind stark US-zentriert, und die Lösungsvorschläge bleiben knapper als die Kritik. Dennoch hat das Buch die Diskussion um algorithmische Fairness maßgeblich geprägt und bleibt ein Standardwerk für alle, die Big Data kritisch einordnen wollen.
Was überzeugt
- Konkrete, erschütternde Fallbeispiele aus dem Alltag
- Klare Kriterien dafür, was ein schädliches Modell ausmacht
- Fundiert durch O'Neils eigene Erfahrung als Quant
Was stört
- Fokus liegt fast ausschließlich auf US-Beispielen
- Lösungsansätze fallen knapper aus als die Kritik
Für wen geeignet
Für alle, die wissen wollen, wie automatisierte Entscheidungen soziale Ungleichheit verstärken können.
Fazit
Ein scharfsinniges, gut belegtes Plädoyer gegen den blinden Glauben an Algorithmen – wirkungsmächtig und unbequem.
Zur Person
Amerikanische Mathematikerin und Datenwissenschaftlerin, die als ehemalige Wall-Street-Quant die gesellschaftlichen Risiken von Big-Data-Algorithmen aufzeigt.
Weitere Werke
