Auf seinem Profilfoto lacht ein junger Mann neben seinem Sohn in die Kamera. Er kommt - glaubt man seinem Facebook-Profil - aus Neukirchen in Sachsen. Und unter einer Nachricht über vermeintlich von Asylanten begangene Straftaten in Braunschweig kommentierte er am Mittwoch gegen 14 Uhr:

"Bei uns im Erzgebirge wird es soweit nicht kommen. Unsere Willkommenskultur besteht aus Schweineköpfen, Baseballschlägern und Brandsätzen. Bis jetzt haben wir noch jede Buslieferung von Kullmucken und Kaschmauken zum umdrehen bewegt."

Dahinter hat der Mann einen "Smiley" gesetzt. Acht Nutzer haben auf den "Like"-, den "Gefällt mir"-Button unter seinem Kommentar geklickt. Zwei Stunden später, ein paar Zeilen darunter; schreibt ein Facebook-Nutzer aus dem niedersächsischen Gorleben seine Meinung zu den vermeintlich delinquenten Ausländern.

"Erschießt die Schweine!"

Die beiden Nutzer gehören zur Facebook-Gruppe "Aufwachen Deutschland", einer sogenannten "geschlossenen Gruppe", zu der nur Zutritt hat, wer dem Gruppen-Administrator genehm ist. Anderen Facebook-Nutzern bleiben diese Seiten und die dort verbreiteten Kommentare verborgen. Am frühen Mittwochabend werden beide Hass-Kommentare an Facebooks Community-Operation-Team in Dublin geschickt, an die Prüfabteilung des Unternehmens.

Innerhalb von 24 Stunden soll das Team darüber entscheiden, ob die Kommentare gelöscht werden müssen oder ob sie den Gemeinschaftsstandards des Netzwerks entsprechen. Das ist ein Ergebnis der sogenannten Taskforce. Bundesjustizminister Heiko Maas hatte die Arbeitsgruppe aus Vertretern von Facebook, Google und Twitter, Ministerialbeamten und zivilgesellschaftlichen Gruppen initiiert. Anfang der Woche verkündete der Minister in Berlin die Ergebnisse:

"Wir sind uns in der Taskforce einig, dass wir mehr tun wollen gegen Hasskriminalität. Also immer dort, wo die Grenzen der Meinungsfreiheit überschritten sind, dort, wo es um strafbare Äußerungen geht, um Volksverhetzung, öffentliche Aufforderung zu Straftaten, wo Menschen bedroht werden, sollen solche Inhalte vom Netz verschwinden."

Am Rednerpult neben Heiko Maas versicherte auch Richard Allan von Facebook, wie wichtig dem Unternehmen das Vorgehen gegen Hass-Kommentare im eigenen Netzwerk sei:

"Es ist kein Geheimnis, dass dieser Prozess für Facebook am Anfang nicht besonders angenehm war. Mit der jetzigen Übereinkunft haben wir ein erstes Kapitel bearbeitet. Aber am Ende wird daraus ein ganzes Buch. Und tatsächlich werden ich und meine Kollegen auch in 2016 an Plänen für weitere Maßnahmen arbeiten. Nicht nur in Deutschland, sondern in ganz Europa. Denn wir merken, dass es ein verändertes Klima gibt, in dem wir berechtigte politische Debatten brauchen über sehr sensible Themen wie Zuwanderung. Und gleichzeitig gibt es Kräfte, die diese Debatten für sich nutzen wollen. In einer für die Gesellschaft sehr, sehr gefährlichen Art und Weise."

Facebook will also zusammen mit den zuständigen Behörden, mit Bundesministerien und zivilgesellschaftlichen Akteuren verstärkt gegen die Hetze gegen Andersdenkende sowie gegen Flüchtlinge vorgehen. Meldungen über fremdenfeindliche, rassistische oder volksverhetzende Inhalte auf Facebook-Seiten sollen - wie schon im Beispiel erwähnt - innerhalb von 24 Stunden geprüft und - falls nötig - gelöscht werden.

Vor vier Wochen trat das Unternehmen außerdem der FSM bei, der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter. Der gemeinnützige Verein mit Sitz in Berlin kümmert sich vor allem um den Jugendschutz im Internet. FSM-Geschäftsführer Otto Vollmers wirbt um Verständnis für sein neues Mitglied: Facebook hätte seinen Sitz nun mal in den USA. Und die strengeren deutschen Spielregeln mit einem Produkt wie Facebook zusammen zu bringen, das Nutzern auf der ganzen Welt zur Verfügung steht, sei eben schwierig.

"Natürlich ist man da bestrebt, dass man in den einzelnen Ländern auch diese Vorschriften beachtet, gleichzeitig muss man aber eben gucken, dass man den globalen Service in irgendeiner Form auch auf dieselbe Art und Weise in den unterschiedlichen Ländern auch betreiben kann. Und ich denke, das ist auch die Schwierigkeit, die jetzt den Prozess prägt."

Und in diesem Prozess ist die Mitgliedschaft in der FSM hilfreich – eine Art Siegel für Glaubwürdigkeit. Immerhin: Facebook verpflichtet sich etwa dem strengen deutschen Jugendschutz. Ob sich das Unternehmen aber daran hält, kontrolliert der Verein nur in Stichproben. Und hinter die Kulissen des Facebook-internen Prüfsystems durfte auch die FSM nicht blicken.

"Das könnten wir auch gar nicht beurteilen, ganz ehrlich. Also wenn sie Strukturen in dieser Größenordnung aufsetzen müssen, wo sie in skalierbaren und effizienten Prozessen viele, viele Fälle bearbeiten müssen, dann glaube ich, macht's wenig Sinn, wenn wir als kleiner, gemeinnütziger Verein das versuchen, sondern wir gucken einfach nur: Wie gehen die mit Meldungen um, werden illegale Inhalte, wenn sie gemeldet werden, auch schnell gelöscht? Das ist ja auch das, was das Recht im Bereich Hosting verlangt, dass nach Kenntnis vor rechtswidrigen Inhalten der Anbieter diese schnell löscht."

In Deutschland haben mehr als 20 Millionen Menschen ein Facebook-Profil. Darüber, wie viele von ihnen sich in geschlossenen Gruppen wie "Aufwachen Deutschland" oder "PEGIDA - jetzt erst Recht!" austauschen oder wie viele dieser rechtspopulistischen bis rechtsextremen Gruppen es im deutschen Facebook-Netzwerk gibt, darüber habe man keine Kenntnis, heißt es auf eine schriftliche Anfrage. Ein Interview zum Thema Hassrede will Facebook noch immer nicht geben. Bereits vor einigen Monaten haben wir ausführlich über die entsprechenden Schwierigkeiten des Unternehmens berichtet. Damals wie heute gab es lediglich schriftliche Stellungnahmen.

Einen Anhaltspunkt dafür, wie aktiv die rechte Szene auf Facebook ist, liefern Zahlen des Verfassungsschutzes. 180 rechtsextremistische Gruppen werden allein durch das Bundesamt beobachtet. Dazu kommen noch Gruppen, die die 16 Landesämter im Blick haben. Die Debatte um hetzerische Inhalte auf Facebook-Seiten hat seit Monaten an Fahrt aufgenommen. Das haben natürlich auch die Behörden registriert. Und auch, dass dies Wirkung bei rechtsextremen Gruppen zeige, erklärt Hans-Georg Maaßen, der Präsident des Bundesamtes für Verfassungsschutz:

"Wir stellen fest, dass sie auch in Teilen die sozialen Netzwerke verlassen. Oder dass sie in den sozialen Netzwerken nicht mehr so offen hetzen, weil sie sehen, das, was sie hetzen, kann auch gelöscht werden, kann auch zur Anklage gebracht werden ... "

Aber nach wie vor haben soziale Netzwerke für die rechtsextreme Szene einen immensen Nutzen, so Hans-Georg Maaßen:

"Wir sehen natürlich, dass relativ viele rechtsextremistische Einzelpersonen und auch Gruppierungen das soziale Netz nutzen zur Anwerbung, man kann fast sagen: zur Anfixung von Personen, von Einzelpersonen, die sich vielleicht einfach nur informieren wollen, die mit den normalen Medien nicht zufrieden sind ... "

Und nach erfolgreicher Anwerbung würden dann, so Maaßen, andere, weniger öffentliche Kommunikationsmittel, zum Beispiel sogenannte "Instant Messenger" genutzt.

Wie ernst auch immer es Facebook und andere soziale Netzwerke mit Gegenmaßnahmen meinen, das Problem ist nicht einfach aus der Welt zu schaffen: Seit Jahren wächst die Zahl der Netz-Auftritte mit rechtsextremistischem Inhalt. Das beobachtet auch Robert Andreasch von AIDA, der Antifaschistischen Informations-, Dokumentations- und Archivstelle in München. Er findet es vor allem erschreckend, in welcher Offenheit die Nutzer ihre Fremdenfeindlichkeit dort formulieren und – für fast jeden sichtbar – online stellen.

"Das hat auch noch mal massiv zugenommen. Unter jedes Posting muss noch mal aggressiver, noch mal zynischer kommentiert werden und andere versuchen, da noch mal was drauf zu setzen. Und dann gibt es einen großen Vorteil sozialer Netzwerke: hier können mehr Menschen erreicht werden in unterschiedlichen Spektren als das im realen Leben so einfach möglich wäre. Auch durchaus schicht- und spektrenübergreifend. Und das hat sich als besonders wirkungsvoll erwiesen für rechte Mobilisierung und rechte Propagandaverbreitung."

Ein besonders effektives Mittel dieser Propaganda sind gefälschte und auf den ersten Blick echt wirkende Zeitungsartikel. Berichtet wird darin über gewalttätige Flüchtlinge. Über Flüchtlinge, die jungen, deutschen Frauen nachstellen, die im Supermarkt klauen, die angeblich vor wenigen Wochen noch für den sogenannten Islamischen Staat kämpften und nun Deutschland unsicher machten.

Gezeigt werden Videomitschnitte von Gräueltaten des IS, verlinkt wird auf Seiten der AfD, auf rechtsnationale Publikationen, auf antisemitische, gewaltverherrlichende oder verschwörungstheoretische Beiträge. Tenor: Das deutsche Volk ist in Gefahr, vor Krieg und Not flüchtende Menschen sind Invasoren und Bundeskanzlerin Angela Merkel – angeblich einst Mitarbeiterin der DDR-Staatssicherheit – ist in diesem Weltbild die größte Bedrohung für die Bundesrepublik und gleichzeitig Herrscherin über die Organe der Lügenpresse."

Strafrechtlich relevant sind derartige Diskussionen nicht. Und auch das Lancieren von Falschmeldungen ist – solange keine Persönlichkeitsrechte betroffen sind – nicht verboten.

Rechtsextreme Propaganda und das Schüren von Ängsten sind nicht allein Probleme für Facebook, sondern in erheblichem Umfang auch für das von Google betriebene Video-Portal Youtube. Es gehe deshalb darum, so Bundesjustizminister Heiko Maas, die Ursachen für die Verselbstständigung rechtsextremer Diskurse und Panikmache zu suchen.

"Ich bin fest davon überzeugt, dass das, was wir an Hasskriminalität im Netz haben, nicht durch das Netz entstanden ist, sondern dass es das in unserer Bevölkerung bedauerlicherweise schon immer gegeben hat – nur dass es mit dem Netz neue Kommunikationsmöglichkeiten gibt, die jetzt genutzt werden. Und deshalb ist das ein Thema, mit dem wir uns auseinandersetzen müssen. Das, wogegen wir vorgehen wollen, schreiben nicht die Mitarbeiter der Unternehmen ins Netz, sondern unsere Nachbarn!"

Gerade deshalb sei es wichtig, so Heiko Maas, auch zivilgesellschaftliche Akteure und Organisationen beim Kampf gegen Hasskriminalität mit einzubinden. Facebook arbeitet schon seit Jahren mit der Initiative "Laut gegen Nazis", mit "Netz gegen Nazis" oder der "Antonio-Amadeo-Stiftung" zusammen. Und in der vom Bundesjustizminister initiierten Taskforce saßen auch Vertreter des Berliner Vereins "Gesicht zeigen".

Rechtsextreme Facebook-Nutzer werden diese Kooperationen kaum beeindrucken. Sie werden die Seiten des am weitesten verbreiteten Netzwerks auch in Zukunft für ihre Hetze und Propaganda nutzen. Facebook könne sich aber auf die vielen Millionen Nutzer verlassen, wenn es um die Eindämmung von Hasskommentaren geht, heißt es aus dem Unternehmen. Sie könnten – durch ein mittlerweile verbessertes Meldesystem – dafür sorgen, dass besonders problematische Posts vom Dubliner Team überprüft werden.

Dass rassistische Äußerungen von diesem Team aber zuverlässig gelöscht werden, muss bezweifelt werden. Immer wieder bekommen Facebook-Nutzer, die in Dublin eindeutig menschenverachtende Meldungen überprüfen lassen, eine ernüchternde Antwort:

"Bisher haben wir sie nicht entfernt, da sie aus unserer Sicht nicht gegen die Gemeinschaftsstandards von Facebook verstößt. Bitte teile uns mit, falls dir etwas auffällt, das dich beunruhigt. Es ist unser Ziel, dass Facebook für alle eine sichere und einladende Umgebung bleibt."

Das klingt nach einer Standard-Antwort ohne wirkliche Bearbeitung. Denn anderenfalls müsste man unterstellen, dass auch eindeutig fremdenfeindliche Kommentare mit den Facebook-Gemeinschaftsstandards vereinbar sind. Die Aussagen über Flüchtlinge: "Jeder der kommt, wird weggeklatscht" oder "Alle kalt machen!" wurden zwar schon vor Wochen gemeldet und geprüft, sind aber auch heute noch auf Facebook-Seiten zu finden.

Wie groß das deutschsprachige Prüfteam in Facebooks Europazentrale in Dublin ist, darüber macht das Unternehmen, wie schon bei unseren letzten Recherchen, keine Angaben. Dabei wurde damals auf die Ergebnisse der Taskforce vertröstet. Mehr Transparenz hat diese aber nicht erwirkt. Einige hundert Mitarbeiter stünden rund um den Globus bereit, um Beschwerden aus aller Welt zu bearbeiten. Insgesamt 1,5 Milliarden Menschen nutzen Facebook. Google hält sich mit entsprechenden Informationen ähnlich bedeckt.

Ausgewählte Journalisten hat Facebook im Herbst in die Europazentrale in Dublin eingeladen. Sie sollten erleben, wie Nutzer-Meldungen über hetzerische Kommentare, Fotos oder Nachrichten geprüft werden. Fabian Reinbold, Redakteur bei "Spiegel Online" war voller Erwartungen nach Irland geflogen.

"Uns wurde in Aussicht gestellt, dass wir dort einen Einblick bekommen, wie Facebook umgeht mit Hetze, wie dieses Lösch-Team, über das so viel gerätselt wurde, wirklich funktioniert."

Fabian Reinbold und andere Teilnehmer berichten: Bei ihrem Ausflug haben sie nichts Neues erfahren. Zwar präsentierten Mitarbeiter schematisch die Abläufe hinter den Kulissen – doch diese hatte Facebook auch schon im Sommer erklärt.

"Wir haben auch eine Tour durchs Gebäude von Facebook bekommen, aber wir konnten nicht sehen, wo dieses Team, was mit Hass-Kommentaren umgeht, sitzt. Also immer, wenn wir in einen Bereich kamen, wo dieses Team womöglich sitzen könnte, gab es dann eine Figur, die sich uns in den Weg stellte: ein David-Hasselhoff-Pappaufsteller oder eine Super-Mario-Figur, auf der dann draufstand 'No visitors beyond this point'."

Nichts gesehen und auch sonst: auf konkrete Fragen keine Antworten. "Spiegel Online"-Redakteur Reinbold ist enttäuscht wieder abgereist. Seine Skepsis gegenüber Facebook bleibt.

Auch die Taskforce-Mitarbeiter von Heiko Maas, der immerhin zugleich Minister für den Verbraucherschutz ist – waren zwar in Dublin zu Gesprächen. Aber sie, gibt der Minister zu, haben den "Lösch-Teams" ebenfalls nicht bei der Arbeit zuschauen können.

"Uns geht es auch ehrlich gesagt nicht darum, im Wesentlichen die Abläufe dort zu kennen, sondern uns geht es darum, die Ergebnisse zu verbessern – denn es beginnt immer erst mit Worten und danach folgen die Taten. Und wenn ich mir anschaue, dass insbesondere aus dem rechtsextremen Bereich bereits in der ersten Hälfte dieses Jahres wir doppelt so viele Straftaten haben wie im gesamten letzten Jahr, dann ist das ja ein Beleg dafür, dass das eine mit dem anderen zusammen zu hängen scheint."

Die Mobilisierung durch das Netz scheint also belegt, die Gegenmaßnahmen jedoch nicht.Die Wirksamkeit der Aktionen von Facebook, Google und Twitter soll, erklärte Heiko Maas, durch ein Monitoring untersucht werden. Im März 2016 werde man sich wieder treffen. Und die von Facebook auch finanziell unterstützte Initiative "Laut gegen Nazis" wird Konzerte in Städten veranstalten, die bislang vor allem durch ihren Protest gegen Flüchtlingsunterkünfte aufgefallen sind. Dort sollen auch die Möglichkeiten der sogenannten Counterspeech bekannt gemacht werden.

Das "Prinzip Counterspeech", die Gegenrede von Nutzern zu rassistischen, sexistischen oder antisemitischen Äußerungen sei, erklärte Pressesprecherin Tina Kulow im September, in den USA schon weit verbreitet und könne durch die geplanten und bereits angeschobenen Counterspeech-Seminare auch hierzulande gestärkt werden. Fraglich ist aber, wie effektiv dieses Instrument in geschlossenen Gruppen funktionieren soll. In Gruppen wie "Aufwachen Deutschland". Dort tauschen sich Gleichgesinnte aus und auf Kommentare zu angeblich kriminellen Flüchtlingen – "Erschießt die Schweine!" – gibt es in diesen geschlossenen Zirkeln eben keine Gegenrede. Eher klicken die Gruppenmitglieder auf den "Gefällt mir"-Knopf. Richard Allan, Facebooks Cheflobbyist, wollte diese Beobachtung bei der gemeinsamen Pressekonferenz mit Heiko Maas am Dienstag nicht gelten lassen:

"Auch in den geschlossenen Gruppen, auch wenn die Nutzer sich dort eintragen, weil sie die Gruppenziele teilen, werden sie sich auch streiten. Wir bekommen eine Menge Meldungen aus geschlossenen Gruppen. Und wenn wir Erkenntnisse darüber zum Beispiel von unseren Partnern bekommen, von Nicht-Regierungsorganisationen bekommen – da sind sie wirklich sehr nützlich für uns – oder von den Strafverfolgungsbehörden, die sagen, dass es ein bestimmtes Problem gibt mit einer bestimmten geschlossenen Gruppe oder mit Aktivitäten auf Facebook, die nicht sofort sichtbar sind, dann werden wir das untersuchen!"

Beim Kampf gegen Hassrede, gegen rassistische, antisemitische oder antiislamische Kommentare hofft Facebook auf die eigenen Nutzer. Die Kontrollinstanz wird auf diese Weise outgesourct. Die 1,5 Milliarden Mitglieder des Netzwerks liefern mit ihren persönlichen Daten nicht nur den Rohstoff, mit dem Facebook sein Geld verdient. Sie sollen auch dafür sorgen, dass Hass-Kommentare gemeldet oder Gegenreden verfasst werden, dafür, dass das Netzwerk tatsächlich ein soziales Netzwerk sein kann.

Der Multi-Milliarden-Dollar-Konzern bezahlt im Gegenzug einige hundert Prüferinnen und Prüfer, die die eingegangenen Meldungen der Nutzerschar bearbeiten sollen, ihre Vereinbarkeit mit den "Gemeinschaftsstandards" kontrollieren. Eine eher magere Bilanz nach drei Monaten Arbeitsgruppe. Denn diese Prüfteams gab es schon vorher.

Eine Stichprobe zeigt: Die Meldung der beiden Kommentare von Flüchtlingshassern - "Unsere Willkommenskultur besteht aus Schweineköpfen, Baseballschlägern und Brandsätzen" und "Erschießt die Schweine! – diese beiden Kommentare hat das Facebook-Team in weniger als 24 Stunden überprüft. Und kommt zu einem ernüchternden Ergebnis: beide Kommentare verstoßen "nicht gegen die Gemeinschaftsstandards von Facebook". Der Facebook-Nutzer, der vorschlägt, Flüchtlinge mit Brandsätzen zu begrüßen, kann sich also zurücklehnen und sich bestätigt sehen. Er hatte die Meldung über die Ergebnisse der Taskforce schon am Mittwoch auf seine Art kommentiert:

"Hey, Klappstuhl Heiko, hier, hier bin ich. Tu was wenn Du kannst. Ich hetze weiter gegen Nigger, Juden, Homos und alle anderen Untermenschen auch. Hahaha. Nix kannst Du mir, aber können kannst Du mich."

Diesen Kommentar haben die Prüfer mittlerweile entfernt.