Mittwoch, 16.10.2019
 
Seit 11:35 Uhr Umwelt und Verbraucher
StartseiteNachrichten vertieftAuch Roboter schüren Hass im Netz24.05.2016

Soziale NetzwerkeAuch Roboter schüren Hass im Netz

Mit intelligenten Helfern wollen IT-Unternehmen den Alltag der Menschen im Internet erleichtern. Das Zauberwort heißt Chatbot. Die Platzhirsche Google und Apple lassen ihre Kunden Sätze sagen wie "Okay Google" oder "Hi, Siri" und schon antwortet eine Maschine, oft zufriedenstellend. In den Sozialen Netzwerken sind auch Bots unterwegs, allerdings verbreiten die oft Hass und Propaganda.

Der Hashtag «#Hass» ist auf einem Bildschirm eines Computers zu sehen. (dpa/ picture-alliance/ Lukas Schulze)
Bots hetzen in den Sozialen Medien. (dpa/ picture-alliance/ Lukas Schulze)
Mehr zum Thema

Hasskommentare auf Facebook & Co Die Online-Müllabfuhr des Internets

Sauberes Internet "Putztruppe im Namen des Herrn"

Twitter verschärft Nutzungsrichtlinien "Ich glaube, Demokratie ist denen einigermaßen egal"

Mensch oder Maschine. Das ist oft nicht mehr festzustellen, wenn in Sozialen Netzwerken wie Twitter oder Facebook Beiträge erscheinen. Die IT-Unternehmen sind Motor der Entwicklung, treiben die Automatisierung im Netz voran - und scheitern zuweilen. Microsoft hatte im März eine selbstlernende Maschine entwickelt, den Chatbot Tay. Das Experiment missglückte. Aus dem symphatischen Helfer mit dem Profilbild einer jungen Frau entwickelte sich ein Albtraum. Auf Twitter wurde der Account von tausenden Nutzern mit Hetze und Propaganda überschüttet.

Microsofts Chatbot TayMicrosofts Chatbot Tay- Screenshot von Twitter.com

Angegriffen wurden unter anderem Juden, Frauen und US-Präsident Barack Obama. Weil das kleine Programm von den anderen Nutzern lernte - Stichwort künstliche Intelligenz - wurde aus dem Chatbot Tay ein Mi­s­an­th­op und Rassist. Microsoft musste die Maschine wieder abstellen, ein erneuter Versuch scheiterte. Wer hinter dieser konzertierten Aktion steckt, darüber lässt sich nur spekulieren.

Künstliche Intelligenz für Hetzer

In den Sozialen Netzwerken tummeln sich aber noch andere kleine Roboter. Wie viele es sind, kann keiner mit Gewissheit sagen. Sie sind aber da, agieren wie Menschen und sind nur schwer von diesen zu unterscheiden.

"Sie können zudem anderen Nutzern folgen und Beiträge kommentieren", sagt Simon Hegelich, Professor an der Hochschule für Politik in München. Er lehrt "Political Data Science". Es sei schwierig die Bots zu erkennen, sagte Hegelich dem Deutschlandfunk. In einem Projekt beobachtet der Forscher ein großes Botnetz im Ukraine-Konflikt. Dort gebe es mindestens 15.000 solche Programme, so Hegelich.

Oftmals würden Alltagsdinge kommentiert, wie Sport oder Witze. Aber zwischendurch gebe es dann auch Propaganda, um "den rechten Sektor in der Ukraine zu unterstützen".

Kampf gegen die Bots

"Die Anbieter der Social-Media-Plattformen versuchen mit viel Aufwand und statistischen Verfahren, die Bots zu entdecken", erklärt Hegelich. So schaue Twitter auf die Anzahl der Follower oder Metadaten. "Der normale Nutzer kann sich nur fragen, ob die Gegenseite glaubwürdig ist." Viele Bots benutzten "keine echten Fotos, sondern Comic-Bilder". Hegelich will deshalb ein Programm für Privatanwender entwickeln, um diese Bots zu überführen.

Bots als Trendsetter

Was die Bots im Netz genau bewirken, ist nicht sicher. Es sei denkbar, dass sie nur noch untereinander kommunizieren. "Es gibt aber auch Hinweise, dass sie mit 'echten' Menschen verbunden sind. Hegelich warnt: Statt eine böse Nachricht könne man mit gleichem Aufwand eine Million Nachrichten schreiben, "die sozialen Medien komplett durch Bot-Nachrichten fluten".

Propaganda und Hass in der Medien-Blase

In großen Medienhäusern, in der Werbewirtschaft aber auch in der Politik wird aufmerksam beobachtet, wie sich Themen und Trends im Netz entwickeln. Können Bots eine gesellschaftliche Debatte in der Offline-Welt beeinflussen? Hegelich ist sich sicher, dass solche Programme in der Flüchtlingsdebatte aktiv sind. Da gebe es dann Kennwörter - Hashtags - wie #refugeesnotwelcome - die sich im Netz verbreiteten und von Mulitplikatoren registriert würden. Oder mit anderen Worten: von Politikern und Journalisten.

Im Kampf gegen Bots habe Twitter zuletzt 125.000 Accounts gesperrt, so Hegelich. Ein aufwändiges Unterfangen. Denn die Programme passen sich an, damit sie nicht gelöscht werden. Inzwischen sind die Roboter auch in den USA bei den Vorwahlen für die Präsidentschaft aktiv. So verweist Prof. Hegelich auf ein Twitter-Profil, hinter dem eindeutig eine Maschine stehe.

Ein Bot mit einem gefälschten Account. (Reiche, Dietmar)Ein Bot mit einem gefälschten Account. Screenshot von Twitter.com (Reiche, Dietmar)

Hinter der Beschreibung von "susan birchfield" verberge sich eine glückliche Mutter von zwei großartigen Jungs. Die Frau könne es gar nicht abwarten, den republikanischen Kandidaten Donald Trump zu wählen, heißt es. Im wesentlichen verschickt - retweetet - das Programm Beiträge von anderen Nutzern. Aber es gibt auch Bots, die gegen Trump Stimmung machen:

Besonders heikel wird es, wenn dieses Programm den Kandidaten Trump mit rassistisch motivierten Aussagen in Verbindung bringt. Sie werden als vermeintliche "Witze" kaschiert und überschreiten jegliche Grenze von Anstand und Moral. Das Ziel: Trump soll als Mensch und Politiker diskreditiert werden.

(rei/tj)

Das könnte sie auch interessieren

Entdecken Sie den Deutschlandfunk