Dienstag, 19.06.2018
 
Seit 13:35 Uhr Wirtschaft am Mittag

Das Dunkle in der Black BoxDie Maschine

Es war ein ganz normaler Freitag, als Marie Winkler etwas vor ihrer Tür fand. Ein komplett schwarzes Teil. Rund, aber mit ganz vielen dreieckigen Flächen. Eine Blumenvase? Rückblickend wirkt es fast schon naiv, wie sie den Abend schildert. Denn heute weiß jeder, was das Ding war. Die Maschine.

Von Thomas Reintjes

Hören Sie unsere Beiträge in der Dlf Audiothek
Die Maschine. Über das Dunkle in der Black Box (Deutschlandradio / Marc Trompetter)
Die Maschine. Über das Dunkle in der Black Box (Deutschlandradio / Marc Trompetter)
Mehr zum Thema

Betrüger mit künstlicher Intelligenz Gangster Code

Rayid Ghani: You Say You Want Transparency and Interpretability?

Data Science for Social Good

Joanna J. Bryson: AI and Society

Stephane Mallat ENS Paris

Joshua Kroll iSchool Berkeley

Nature The Black box of AI

Technology Review The Dark Secret at the Heart of AI 

Schon seit Langem gab es Warnungen vor künstlicher Intelligenz, aber den meisten Menschen erschien die Technik eher wie Spielzeug. Auf YouTube fanden sich Videos, in denen KI-Systeme Witze erzählten. Das war 2019 auch schon nicht lustig. Aber die Sternstunde der künstlichen Intelligenz sollte ja erst noch kommen. Wissenschaftler hatten seit Jahren verheißungsvolle Dinge zu sagen. Selbstlernende Systeme sollten drängende soziale Probleme lösen, evidenzbasiert, auf der Grundlage von Daten. Es stand ihnen quasi auf der Stirn geschrieben, dass sie gut und wohlwollend sind. Doch was, wenn man an der Oberfläche kratzt?

Marie hat das Paket erst mal auf den Tresen gelegt. Die Schuhe ausgezogen. "Wahrscheinlich hab ich in den Kühlschrank geguckt. Was man halt so macht. Na ja, und dann mach ich halt irgendwann das Paket auf, und dann ist da dieses Teil drin."

Vielleicht war es gerade diese Unscheinbarkeit, die dieses Teil so unverdächtig machte.

Marie jedenfalls hatte es eilig, weil sie noch ein Date mit Stefan hatte, das sie nicht sausen lassen wollte.

Den Moment wird sie nie vergessen: "Also da ist mir ja die Kinnlade runtergefallen. Das war unheimlich."

Maries Date ist heute ihr Freund, Stefan Seidel. An dem Abend damals hat sie ihn zum ersten Mal mit nach Hause genommen. Zusammen haben sie dann angefangen, die Maschine zu erkunden. Die machte erstaunliche Vorhersagen.

Die beiden filmten das Video, das heute jeder kennt und luden es ins Netz.

Die meisten User teilten das Video mit einer Mischung aus Faszination und Unglaube. War es wirklich echt?

Der Clip tauchte auch bei Wissenschaftlern im Social-Media-Stream auf. Sie konnten nicht glauben, dass die Maschine das war, was sie zu sein schien. So vorausschauend und allwissend konnte keine künstliche Intelligenz sein.

Schon vor der Maschine hatten Deep-Learning-Systeme überraschend akkurate Ergebnisse geliefert. Aber selbst die Programmierer verstanden nicht immer, warum. Im Kern waren sie wie eine Black Box.

Für Marie und Stefan ging alles unglaublich schnell. Übers Wochenende wurde die Maschine zum Gesprächsthema Nummer eins.

Stefan erinnert sich: "Die Maschine stand auf dem Tisch, Marie und ich saßen mit der Moderatorin auf der Couch."

Erst war noch alles lustig, aber dann wollte die Moderatorin wohl etwas seriöser werden und ist übers Ziel hinausgeschossen: "Vielleicht können wir mal fragen ..."

Und das war der Anfang des Hypes.

Wer hatte die Maschine programmiert? Mit welchen Daten war sie gefüttert - und zu welchem Zweck? Wollte sie warnen, informieren oder provozieren?

Niemand kannte die Daten, auf denen die Aussagen basierten und niemand kannte die Regeln, nach denen sie Vorhersagen generierte.

Während ein Krisenstab sich noch abmühte, etwas Licht ins Dunkel zu scheinen, hatte die Maschine längst die Gesellschaft verändert.

Hier können Sie das gesamte Feature "Die Maschine. Über das Dunkle in der Black Box" hören.

Manuskript zur Sendung

Credits

Idee und Skript: Thomas Reintjes
Regie: Friederike Wigger
Grafik und Trailer: Marc Trompetter
Grafische Beratung: Selma Nayin und Dennis Horstmann
Redaktion: Christiane Knoll

Verwendetes Bildmaterial
Porträt Joanna Bryson: Urs Jaudas / Tages-Anzeiger
Porträt Stephane Mallat: Patrick Imbert / Collège de France
Porträt Rayid Ghani: Neil Duncan & Deutsche Messe
Porträt Joshua Kroll: privat

Das könnte sie auch interessieren

Entdecken Sie den Deutschlandfunk