Dienstag, 31.03.2020
 
StartseiteWissenschaft im BrennpunktKontrolle ist gut, KI ist besser26.12.2019

Die MaschineKontrolle ist gut, KI ist besser

Die Maschine war einst wie aus dem Nichts bei Marie Winkler aufgetaucht: Eine künstliche Intelligenz, die erst Staunen, bald aber schieres Entsetzen hervorrief. Seit der Katastrophe hatte die Gesellschaft dazugelernt. Die Maschine sollte gebändigt werden: Gutes tun in engen Grenzen, das war der neue Plan.

Von Thomas Reintjes

Hören Sie unsere Beiträge in der Dlf Audiothek
Die Maschine: Kontrolle ist gut, KI ist besser (Deutschlandradio / Mark Trompetter)
Kann ein Netzwerk künstlicher Intelligenzen leisten, womit selbst Experten überfordert sind? (Deutschlandradio / Mark Trompetter)
Mehr zum Thema

Die Maschine. Über das Dunkle in der Black Box (Deutschlandradio / Marc Trompetter)Teil 1: Die Maschine. Über das Dunkle in der Black Box (Deutschlandradio / Marc Trompetter)


Vor ziemlich genau drei Jahren tauchte die Maschine wie aus dem Nichts bei Marie Winkler auf.

Ein unscheinbares, kantiges, schwarzes Ding, das sich schon bald als fortgeschrittene Künstliche Intelligenz entpuppte.

Die vermeintliche Perfektion der Maschine, ihre Aura der Unfehlbarkeit hat uns dazu verleitet, sie sich fundamental in unser aller Leben einmischen zu lassen. Am Ende schlitterte die Menschheit in eine militärische Eskalation. Die Katastrophe war ein heilsamer Schock. Nur: Ob die Maschine eine zweite Chance verdient hätte, darüber war man sich keineswegs einig.

Die zweite Chance

 
Marie auf der Bühne

Schon länger versuchten Wissenschaft und Politik Künstliche Intelligenz beherrschbar zu machen. Sie müsse kontrolliert werden. Reguliert. In ihre Schranken gewiesen. Das hieß aber, wir konnten nicht ihr ganzes Potenzial nutzen, selbst dann nicht, wenn sie so wissend, so vorausschauend war wie die Maschine. Gutes tun in engen Grenzen. Das war die Bedingung, unter der Marie Winkler wieder in den Besitz ihrer Maschine gelangte.


Zitatkachel Saška Mojsilović: „Eine KI, die KI überwacht. Das ist ein komplett neues Konzept“ Die Maschine mit Wachpersonal vor dem Haus, dazu der Text: Ein Netzwerk künstlicher Intelligenzen sollte die Maschine überwachen.

Gab es keine Begründung für eine Entscheidung, wurde sie gelöscht. Verboten waren auch Prognosen mit politischer Relevanz. Das war einprogrammiert: Keine Einmischung in die Demokratie. Und: Fair sollte sie sein. 

Erste Praxistests liefen gut. DieMaschine.net entschied Asylanträge binnen Sekunden. Sie warnte Skifahrer vor Lawinen. Verhalf Drogenfahndern zu einer Erfolgsquote von 100 Prozent. Keine falschen Verdächtigungen mehr auf der Straße und kein Schmuggel mehr im Hamburger Hafen. Banken senkten die Zinsen, weil sie dank perfektem Screening keine Zahlungsausfälle mehr hatten. 

Je mehr DieMaschine.net Einfluss auf das Leben der Menschen nahm, desto mehr wuchs das Unbehagen ...

... und desto mehr Zulauf fand die Human Supremacy League. Die Macht sollte vom Menschen ausgehen, forderte die Bewegung.

Vertragsabschluss

Dem Interesse an der überlegenen Technik aber tat das keinen Abbruch – bis zu jenem verhängnisvollen Großauftrag aus der Pharmaindustrie.

Die Unternehmen setzten die Maschine in der Logistik ein. Und damit begannen die Nebenwirkungen. Wortwörtlich, denn zutage traten sie vor allem bei der Distribution von Medikamenten. Zuerst gingen die Präparate zur Behandlung von HIV und vor allem das Insulin für Diabetiker aus. Bestellungen wurden ignoriert oder nur teilweise geliefert. Hektisch einberufene Experten verorteten das Problem im computergesteuerten Distributionssystem.

Ein Leichenwagen mit Demonstranten darum herum. Text: Bald starben die ersten Diabetiker.

Als klar wurde, dass die Maschine dafür verantwortlich war, konnte Marie Winkler es gar nicht fassen. Dass es ausgerechnet die Fairness-Regeln waren, die sie eingebaut hatte, weil es die Politik von ihr verlangt hatte, hatte niemand vorhergesehen.

Doch die Fairness-Regeln im KI-Netzwerk waren tatsächlich Schuld. Sie hatten die verfügbaren Medikamente gerecht verteilt: Kranke in bisher unterversorgten Gebieten bekamen mehr, vor allem in Asien und Afrika. Für Europa und Nordamerika blieb weniger. Nur noch die halbe Tagesdosis Insulin. Dafür für jeden Diabetiker weltweit. Fair.

Vivienne Ming: "Diese Dinge sind nie schwarz-weiß. Wie können wir Institutionen schaffen mit Menschen, die die Technologie wirklich verstehen?“

Der Support für die Maschine schwand rapide. Während Sicherheitsbehörden die Abschaltung von DieMaschine.net koordinierten, stellte die Politik neue Regeln auf. Vor allem das Fairness-Konzept wurde neu interpretiert. Nach dem Vorbild des menschlichen Gehirns ging es von einer "angepassten Fairness" aus, bevorzugte also lokale vor globaler Gerechtigkeit, um die gesellschaftliche Stabilität wiederherzustellen.

Und dann war der Spuk vorbei.

Die Maschine hinter Gittern, ruft weiterhin „faire“ Entscheidungen

Manuskript zur Sendung

Credits

Idee und Skript: Thomas Reintjes
Es sprachen: Simone Kabst, Inka Löwendorf, Adam Nümm, Adrian Tillmann, Max Urlacher, Nina West
Regie: Friederike Wigger
Grafik: Marc Trompetter
Redaktion: Christiane Knoll


Experten

  • Saška Mojsilović, Fellow, Thomas J. Watson Research Center, IBM, NY, USA
  • John Dolan, Principal Systems Scientist, The Robotics Institute, Carnegie Mellon University, Pittsburgh, USA
  • Erin Dalton, Abteilungsleiterin, Allegheny County Department of Human Services, Pittsburgh, USA
  • Josh Pastuch, Case Worker, Allegheny County Department of Human Services, Pittsburgh, USA
  • Vivienne Ming, Co-Gründerin und Leiterin, Socos Labs, Berkeley, Kalifornien

Das könnte sie auch interessieren

Entdecken Sie den Deutschlandfunk