Samstag, 23.06.2018
 
Seit 23:05 Uhr Lange Nacht
StartseiteForschung aktuellWenn der Algorithmus das Ich angreift20.02.2018

Menschen, Daten, FaktenWenn der Algorithmus das Ich angreift

Computerprogramme berechnen, wie wir wählen, was wir kaufen, sie werten Bewerbungen aus und ermitteln anhand unserer Daten, wie fit wir sind: Wie gefährlich die Zerlegung des menschlichen Verhaltens in nackte Zahlen ist, beschreibt die US-Amerikaniern Cathy O'Neil in ihrem packenden Buch "Angriff der Algorithmen".

Von Dagmar Röhrlich

Hören Sie unsere Beiträge in der Dlf Audiothek
Buchcover "Angriff der Algorithmen", im Hintergrund ein Computerbildschirm (unsplash / Ilya Pavlov / Buchcover Hanser Verlag)
"Angriff der Algorithmen" von Cathy O'Neil (unsplash / Ilya Pavlov / Buchcover Hanser Verlag)
Mehr zum Thema

Digitale Fotoarchivierung Wenn Algorithmen Urlaubsgeschichten erzählen

Jahresrückblicke Menscheln, Bilder, Algorithmen

Digitale Gesellschaft Wir brauchen eine Algorithmen-Ethik

Sendungsüberblick Algorithmen kennen keinen Zufall

Als sie ein kleines Mädchen war, bedeutete die Mathematik für Cathy O‘Neil Zuflucht. Zahlen gaben ihr Halt in der Unordnung der realen Welt. So blieb es bis zum großen Finanzcrash 2008. Damals arbeitete sie als Analystin für einen Hedgefonds - und sie begriff:

"Dass die Mathematik (...) nicht nur zutiefst in die Probleme der Welt verstrickt war, sondern sogar für viele von ihnen den Nährboden bereitet hatte."

Der "Missbrauch der Mathematik" habe zu dieser globalen Krise beigetragen, die Arbeitsplätze vernichtete und Existenzen zerstörte, schreibt Cathy O‘Neil in ihrem Buch "Angriff der Algorithmen". Dieser Missbrauch reicht weit über die globalen Finanzmärkte hinaus: Ständig kommen neue und oft schlecht durchdachte mathematische Verfahren auf den Markt, die das Kauf- und Wahlverhalten der Menschen prognostizieren - und die tief in das Schicksal eines jeden Einzelnen eingreifen.

"Sarah Wysocki unterrichtete in der fünften Klassenstufe und schien keinen Grund zu haben, sich Sorgen zu machen. Sie war zwar erst seit zwei Jahren an der MacFarland Middle School, hatte aber schon hervorragende Beurteilungen vom Schuldirektor und den Eltern ihrer Schüler erhalten. (...) Dessen ungeachtet erhielt Wysocki am Ende des Schuljahres 2010/11 einen miserablen Score in ihrer IMPACT-Beurteilung."

Dem Urteil wehrlos ausgeliefert

Die miserable Bewertung erhielt sie von einem elektronischen Beurteilungssystem. Denn die Washingtoner Schulbehörde hatte ein Beratungsunternehmen beauftragt, einen Algorithmus für die Bewertung des Unterrichtserfolgs zu erstellen: Der erwies sich - wie so viele andere auch - als Black-Box, deren Urteil die Betroffenen wehrlos ausgeliefert sind. Deshalb bezeichnet die in Harvard promovierte Autorin, die als eine der profiliertesten Kritikerinnen der Digitalbranche gilt, solche Programme als "Weapons of Math Destruction" - als Mathevernichtungswaffen:

"Heute mikromanagen schlecht konzipierte mathematische Modelle die Wirtschaft, angefangen bei der Werbung bis hin zur Verwaltung von Gefängnissen. (...) Sie sind undurchschaubar, werden nicht infrage gestellt, sind niemandem Rechenschaft schuldig und operieren in einem Maßstab, der groß genug ist, um Millionen Menschen zu kategorisieren, ins Visier zu nehmen oder zu 'optimieren'."

Der Markt boomt

Computerprogramme werten Bewerbungen aus oder beurteilen unsere Kreditwürdigkeit. Der Markt boomt, denn Algorithmen versprechen einfache Lösungen, mehr Sicherheit oder mehr Gerechtigkeit. Doch laut Cathy O‘Neil ist das Gegenteil der Fall: Die Mathevernichtungswaffen steigern die Ungleichheit in der Gesellschaft, sie zementieren Vorurteile und gefährden die Demokratie. Die Schlussfolgerung der Autorin:

"Wir müssen aufhören, blindes Vertrauen zu haben und anfangen 'Wissenschaftlichkeit' in die Data Science einzubringen."

Fesselnd geschrieben

Der "Angriff der Algorithmen" ist fesselnd geschrieben. Der Leser lernt, wie die Big Data Wirtschaft funktioniert und was gut gemachte Programme von schlampig geschriebenen unterscheidet. Die Geschichten, die Cathy O‘Neil erzählt, erinnern oft an Kafkas "Prozess", doch zeigt das Buch auch Lösungswege auf. Etwa verpflichtende Standards zur Rechenschaftslegung und eine Beweislastumkehr: Wer Algorithmen entwickelt und implementiert, der sollte den Beweis erbringen, dass sie einwandfrei funktionieren.

Zielgruppe: Jeder, der in der modernen Gesellschaft eine digitale Datenspur hinterlässt.

Erkenntnisgewinn: Wir dürfen uns nicht von schlechten Programmierern entmündigen lassen.

Spaßfaktor: Ein Buch, das seinen Leser fesselt und nicht mehr loslässt.

Dagmar Röhrlich empfiehlt das Buch "Angriff der Algorithmen - Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden" von Cathy O‘Neil, übersetzt aus dem Englischen von Karsten Petersen. Es ist im Hanser Verlag erschienen. Es hat 352 Seiten und kostet 24 €.

Das könnte sie auch interessieren

Entdecken Sie den Deutschlandfunk