Mittwoch, 01.04.2020
 
Seit 08:00 Uhr Nachrichten
StartseiteWissenschaft im BrennpunktVernünftig handeln, statt den Maschinen zu gehorchen08.12.2019

James Bridle: "New Dark Age"Vernünftig handeln, statt den Maschinen zu gehorchen

Social Media, Big Data und KI dringen immer tiefer in unser Leben. Anstatt die Technologie zu beherrschen, sind wir ihr immer mehr ausgeliefert. Wir müssen, um uns in der Welt zurechtzufinden, wieder anders denken lernen – das ist der Tenor in James Bridles ebenso düsterem wie faszinierendem Buch.

Von Dagmar Röhrlich

Hören Sie unsere Beiträge in der Dlf Audiothek
Test einer russischen Burevestnik-Mittelstrecken-Atomrakete (picture alliance / Russisches Verteidigungsministerium)
Computer-Fehlalarme haben die Welt mehrfach an den Rand eines Atomkrieges gebracht - bislang haben immer in letzter Minute Menschen eingegriffen (picture alliance / Russisches Verteidigungsministerium)
Mehr zum Thema

Technik und Magie Die Wiederverzauberung der Welt

Das Dunkle in der Black Box Die Maschine

Am Rande des Atomkriegs Die gute Intuition des Stanislaw Petrow

James Bridle ist keiner der Spezialisten aus dem Silicon Valley, die vom sprichwörtlichen Saulus zum Paulus mutiert sind und die nun vor den Folgen der digitalisierten Welt mahnen. Der Londoner ist vielmehr bildender Künstler und Autor. Doch mit seinem Buch 'New Dark Age' ist es ihm gelungen, zu einer Galionsfigur der Digitalisierungskritik zu werden.

Unsere Vorstellung von den neuen Technologien gründet sich, so der Autor, auf einem gefährlichen Irrtum: Wir glauben, dass Computer unsere Probleme lösen können, wenn wir sie nur mit genügend Daten versorgen und sie schnell genug machen. Doch in Wirklichkeit würden uns weder KI noch Big Data retten: Die moderne Technologie verstecke die Probleme unter immer mehr Schichten der Komplexität. Und so durchschaue die Menschheit die Welt nicht mehr, die die Computer erschafften.

Unterschied zwischen Realität und Simulation

Der naive Glaube an die Neutralität der Zahlen und Computercodes und an die überwältigenden Fähigkeiten der Rechner sei gefährlich. So können Computer beispielsweise nicht zwischen Realität und Simulation unterscheiden. Ein Unvermögen, dass die Welt bereits mehrfach an den Rand eines Atomkriegs gebracht hat. Bislang haben immer in letzter Minute Menschen eingegriffen, wenn ein Computer wieder einmal einen Vogelschwarm oder die Reflexion eines Sonnenuntergangs für den Angriff feindlicher Bomberflotten oder Raketen gehalten hat. Doch wie wahrscheinlich sind solche Interventionen der Vernunft noch in Zeiten, in denen wir uns daran gewöhnt haben, den Maschinen zu gehorchen?

Ohne die Künstlichen Intelligenzen, analysiert James Bridle, würden wir selbst in unserem Alltagsleben kaum mehr zurechtkommen – so sehr verlassen wir uns auf die leistungsfähigen Computer, die uns längst auf Schritt und Tritt begleiten. Um das zu verdeutlichen, führt der Autor uns an bizarre Orte. Etwa in das Lager von Amazon, wo ferngesteuerte Arbeiter zwischen den Regalen wuseln, weil nur noch Roboter die "optimierte" Ordnung verstehen. Das Optimierungskriterium: möglichst kurze Laufwege. So entstand ein Warenwirrwarr, dass sich der menschlichen Logik entzieht. Der Mensch hängt von der Technik ab.

Eigenleben der Bots

Überhaupt führt das Internet schon längst ein Eigenleben. Beispiel: Wikipedia. Das Online-Lexikon funktioniert nur deshalb reibungslos, weil eine ganze Armee weitgehend automatisch agierender Computerprogramme – sogenannter Bots - die korrekte Formatierung übernimmt, Verknüpfungen zwischen Artikeln herstellt und Konflikte moderiert: "Bei der letzten Erhebung waren Bots für 17 der 20 produktivsten Beiträger im Einsatz und machten zusammen rund 16 Prozent aller Beiträge zu Wikipedia aus." Ein Programmcode generiert das Wissen – macht die Kultur zu einem Code/Raum, wie James Bridle schreibt. Das Problem? Unter anderem die Machtungleichgewichte, die dadurch entstehen – und die Tatsache, dass sie verschleiert werden.

Das Computerzeitalter, so schreibt Bridle, gibt sich nur den Anschein der Transparenz. Und: Die Verschleierung seiner Macht ist ein alter Trick. Er wurde beispielsweise 1948 angewandt, als ein früher IBM-Supercomputer aus PR-Gründen in einem New Yorker Geschäft aufgestellt wurde. Das Publikum sah im Schaufenster eine junge Dame arbeiten – doch der Computer simulierte für die Forscher in Los Alamos Wasserstoffbombenexplosionen.

Die Transparenz-Illusion enttarnen

Immerhin ist es heute einfacher, solche Illusionen zu enttarnen. Theoretisch jedenfalls. Denn jedes Computerprogramm ist als Code geschrieben und gespeichert – und damit kann er in Zeiten der globalen Vernetzung auch aufgespürt und enthüllt werden. Doch anders als die meisten Internet-Kritiker fordert uns James Bridle in seinem Buch nicht auf, selbst programmieren zu lernen. Vielmehr plädiert er für eine "nachdenklichere Beschäftigung mit Technologie, gepaart mit einem radikal anderen Verständnis dessen, was sich über die Welt denken und wissen lässt."

Für Bridle ist die Dunkelheit, die er im Titel anspricht, kein Synonym für Unwissen, Mittelalter oder Hoffnungslosigkeit. Vielmehr bricht er mit der klassischen Metaphorik, wendet sie ins Positive: Dunkelheit ist für ihn ein "Ort von Freiheit und Möglichkeit" in einer Welt, in der Wissen die totale Transparenz vorgaukele.

"New Dark Age" ist ein beunruhigendes Buch. Hier schreibt kein Maschinenstürmer, der die Computer abschaffen will, sondern ein gebildeter Mensch, der über die Welt reflektiert und deutlich macht, dass die Stärke des Menschen darin liegt, eben nicht wie eine Maschine zu denken und zu handeln. Und insofern macht dieses Buch Hoffnung und ist absolut lesenswert.

James Bridle: New Dark Age – Der Sieg der Technologie und das Ende der Zukunft
Aus dem Englischen übersetzt von Andreas Wirthensohn
Verlag C.H.Beck, 320 Seiten. 25.70 Euro.

Das könnte sie auch interessieren

Entdecken Sie den Deutschlandfunk