• Deutschlandfunk bei Facebook
  • Deutschlandfunk bei Twitter
  • Deutschlandfunk bei Instagram

 
 
Seit 16:30 Uhr Forschung aktuell
StartseiteMarkt und MedienDie Online-Müllabfuhr des Internets30.04.2016

Hasskommentare auf Facebook & CoDie Online-Müllabfuhr des Internets

Hasskommentare auf Facebook und auf anderen Plattformen werden gelöscht. Diese Müllmänner des Internets leisten diese Arbeit im Verborgenen, ihre Auftraggeber lassen sich nur ungern in die Karten schauen. Ein Berliner Theaterregisseur hat einige von ihnen auf den Philippinen getroffen.

Von Daniel Bouhs

Facebook-Symbole wie die Abkürzung 'f' und der gesenkte Daumen für "dislike" auf blauem Grund und darüber steht Hass gesprüht, wobei der Buchstabe 'a' in Hass aus dem At-Zeichen besteht. (Imago / Ralph Peters)
Facebook steht besonders im Zentrum der Debatten um Hass-Kommentare im Netz. (Imago / Ralph Peters)
Mehr zum Thema

Projekt "Hejtstop" Gegen Hasskommentare im Netz

Hasskommentare im Internet Twitter will gegen Online-Hetze vorgehen

Facebook Behörden gehen verstärkt gegen Hasskommentare vor

Auf die sogenannten Content Moderatoren warten jeden Tag Tausende frische Bilder, die Nutzer auf Online-Plattformen geladen haben, viele davon verstörend: Hardcore-Pornos, Sex mit Tieren, Gewalt. Content Moderatoren sichten dieses Material – wie am Fließband. Damit Plattformen wie Facebook und die Dating-App Tinder sauber bleiben, sortieren sie im Auftrag der sozialen Netzwerke die schmutzigsten Aufnahmen heraus. Die, die gegen die Spielregeln verstoßen.

Moritz Riesewieck ist Theaterregisseur, sein Thema: die Schattenwelt. Vier Wochen war er auf den Philippinen. In Manila hat er Content Moderatoren getroffen. Aus der Anonymität heraus erzählen sie ihm: Das Wühlen im digitalen Dreck – es hinterlässt Spuren.

"Was mich am meisten bedrückt, sind Fotos, die Pädophile posten. Das ist wirklich geschmacklos. Wir warten praktisch das Internet. Wissen Sie: Wir räumen Pornos und den Hass weg."

Riesewieck nennt seinen Gesprächspartner Michael. Michael ist einer der Müllmänner im Internet. Wenn sie morgens zur Arbeit kommen, wissen sie nicht, was sie erwartet, wie schlimm es diesmal wird. Michael erinnert sich an den grausamen Höhepunkt seiner Arbeit:

"Es gab eine Zeit – ich weiß nicht, ob das vom IS kam oder so – die zeigten, wie sie Soldaten geköpft haben. Sensible Menschen kann unsere Arbeit schon deprimieren."

Fürs saubere Internet leiden Menschen

Den Berliner Theaterregisseur hat das sichtlich mitgenommen. Seine Interviews und auch Eindrücke von den Fließbändern fürs Digitale, die er gefilmt hat, spielt er dieser Tage als Teil einer künstlerischen Inszenierung in Deutschland vor – gerade bei der Heinrich-Böll-Stiftung, die ihn unterstützt, und nächste Woche auf dem Internetfestival Re:publica. Riesewieck will aufrütteln. Er mahnt: Damit wir hier ein sauberes Internet vorfinden, leiden dort die Menschen.

"Das reichte von Niedergeschlagenheit durch diese Arbeit, vor allem durch diese Gewaltbilder, die diese Content Moderators zu sehen bekamen, bis zu Libido-Verlusten. Also einfach Unlust auf Sex, weil man den ganzen Tag sich Porno-Bilder ansehen musste. Ja, bis hin zu posttraumatischen Belastungsstörungen, von denen eine Psychologin erzählte, die für diese Firmen arbeitet. Das ist diese Belastungsstörung, die sonst Soldaten entwickeln."

Die Online-Müllmänner sitzen vor allem auf den Philippinen – nicht nur, weil Arbeit dort vergleichsweise billig ist. Die meisten Menschen sind katholische Christen, viele zudem praktizierende. Die Wertevorstellungen decken sich also sehr genau mit denen der Kernmärkte der großen sozialen Netzwerke: den USA und Europa.

Das ist nicht nur Riesewieck aufgegangen, sondern auch Sarah T. Roberts. Die kanadische Wissenschaftlerin forscht seit Jahren zur Schattenwelt des Digitalen. Auf ihren Reisen hat auch sie besonders viele Content Moderatoren in Manila gesehen.

"Sie arbeiten meist im Verborgenen, denn die Plattformen reden nicht gerne darüber, dass sie solche Arbeiter brauchen. Sie arbeiten im Verborgenen, weil niemand sagt, wo sie sitzen. Sie müssen außerdem per Vertrag Stillschweigen garantieren. Außerdem werden hier Dienstleister beauftragt, damit man nicht so leicht nachvollziehen kann, wer dahintersteckt."

In Deutschland ist inzwischen zumindest bekannt, wer für Facebook solche Sichtungen vornimmt, wenn es um deutschsprachige Hasskommentare geht: Facebook hat die Bertelsmann-Tochter Arvato damit beauftragt. Doch auch dieses Team der globalen Online-Müllabfuhr arbeitet bislang hinter verschlossenen Türen.

Das könnte sie auch interessieren

Entdecken Sie den Deutschlandfunk