Zum ersten Mal sind in Deutschland bei den jetzt anstehenden Wahlen Landes- und sogar Kommunalpolitiker von einer vermutlich staatlichen Desinformationskampagne betroffen. In anderen gefälschten Videos heißt es, dass deutsche Medien über einen Rücktritt von Friedrich Merz berichten würden.
Wegen Falschinformationen auf Social Media drängten zehntausende Menschen in die spanische Exklave Ceuta. Das sind drei Beispiele für Desinformationskampagnen in den vergangenen Wochen.
Desinformationskampagnen auf Social Media
Mit Ausnahme der Kandidaten der AfD und des BSW sind bei den Wahlkämpfen in Deutschland Kandidaten aller Parteien von den Desinformationskampagnen betroffen. Mehr als 90 Videos zu mehr als 50 Politikerinnen und Politikern wurden dokumentiert. Der Bundesverfassungsschutz schreibt sie der Matrjoschka-Kampagne zu, die sehr wahrscheinlich aus Russland kommt.
Ähnlich agierte die russische Doppelgänger-Kampagne, bei der seit Jahren Nachrichtenseiten wie „Der Spiegel“ nachgebaut und mit Fake-Artikeln im Sinne Russlands gespickt werden.
Wie sich die Kampagnen auf die Meinungsbildung auswirken, ist schwer zu untersuchen, sagt der Sozialwissenschaftler Phillip Lorenz-Spreen von der TU Dresden. Es gibt dazu nur vereinzelte Studien, wie etwa dass es einen Zusammenhang zwischen sinkender Impfrate und Falschmeldungen rund um die Impfstoffe in der Corona-Pandemie gab.
Außerdem zeigen Studien, dass Menschen, die viel Zeit in sozialen Medien verbringen, zu extremeren politischen Positionen und Meinungen neigen.
Auf den Social-Media-Plattformen sorgen vor allem Emotionalität, negative Darstellungen und auch Gruppenzugehörigkeit für Aufmerksamkeit. Desinformationskampagnen nutzen das aus. Sie arbeiten viel mit Wir-Gegen-Sie, also spaltender Rhetorik.
Botnetzwerke verbreiten Falschmeldungen
Zentral für die Verbreitung von Falschinformationen sind sogenannte Botnetzwerke. Bots sind Computerprogramme, die vordefinierte Aufgaben selbstständig erledigen. Bots teilen und kommentieren etwa Falschbehauptungen. In großer Zahl gaukeln sie dem Algorithmus einer Social-Media-Plattform dann vor, es würden sich tatsächlich viele Menschen für das Thema interessieren.
Einige Tools, um Desinformationen zu erkennen, sind jetzt vor den Wahlen auch für Bürger verfügbar, etwa der Propaganda-Scanner der TU Berlin, https://checknewsin1.click/ oder Gretchen AI https://gretchen-ai.com/de/ . Auf Instagram kann damit jeder in wenigen Sekunden checken, ob Video-Inhalte wahr oder falsch sind. Wer Bilder auf ihre tatsächliche Herkunft prüfen will, kann es mit https://tineye.com/ von Google probieren.
Botnetzwerke zu erkennen, ist wegen KI immer schwieriger geworden. Der Computerwissenschaftler Fillipo Menczer von der Indiana University versucht mit seinem Team, Botnetzwerke zum Beispiel über ihr Verhalten aufzuspüren. Denn egal, welches KI-Modell dahintersteckt: Bots einer Kampagne verfolgen immer ein gemeinsames Ziel. Teilen etwa 30 Accounts in kurzer Zeit den gleichen Link einer ominösen Nachrichtenseite, ist das ein Indiz für ein Botnetzwerk.
Soziale Medien und Falschinformationen: Der Fall Ceuta
Was bei der Verbreitung von Falschinformationen hilft: Soziale Medien sind so gebaut, dass Akteure jederzeit die passende Community finden, in denen ihre Posts viral gehen. Genau das scheint auch ein Grund für den Massenansturm auf die spanische Exklave Ceuta gewesen zu sein.
Zumindest legen das ein erster Bericht des spanischen Sicherheitsforschers Chem Gils und eine Investigativ-Recherche der BBC nahe. Sie beschreiben, dass Wochen, bevor Tausende Menschen nach Ceuta schwammen, Falschmeldungen orchestriert gepostet wurden. In marokkanischen Gruppen und Social Media Feeds wurden sie von Fluchtwilligen geteilt und verbreiteten sich immer weiter.
Falschmeldungen zu Ceuta werden zwar inzwischen oft auch als solche gekennzeichnet. Trotzdem folgten weitere Desinformationskampagnen, die migrationsfeindliche und antisemitische Narrative bedienen.
Fehlender Datenzugang bremst Kampf gegen Fake News
Wer die Posts in Umlauf gebracht hat und wie die Desinformation genau gewirkt hat, wird noch untersucht – allerdings fehlen dazu Daten. Noch vor wenigen Jahren konnte die Forschung über spezielle Schnittstellen große Datenmengen von Twitter sammeln. Doch nachdem Elon Musk die Plattform übernommen und in X umbenannt hatte, schränkte das Unternehmen diesen Zugang ein. Ähnliches passierte auch bei Facebook, TikTok und Instagram.
Auf Anfrage des Deutschlandfunks teilt Meta mit, dass es seit 2023 eine neue Schnittstelle für die Forschung gebe. Die Qualität der Daten sei aber schlechter als früher, sagt der Sozialwissenschaftler Phillip Lorenz-Spreen. Auch x.com hat auf Druck der EU-Kommission eine solche Schnittstelle zumindest angekündigt.
EU-Gesetze wie DSA & AI Act: Kann Politik Desinformation stoppen?
Eine rechtliche Grundlage dafür, dass die Forschung überhaupt an die Daten kommt, ist in der EU der Digital Service Act. Zudem verpflichtet der AI Act der EU die Plattformen seit dem 2. August 2026, dass KI generierte Videos, Audios und Fotos als solche gekennzeichnet werden müssen.
Die Plattformen selber haben auch noch eigene Detektoren. Um Desinformationen aufzuspüren und ihre Verbreitung zu unterbinden, arbeiten TikTok und Facebook in Europa mit Fakten-Check-Redaktionen zusammen.
Für den Kampf gegen Desinformation im Netz gibt es aber keine Allzweckwaffen. Die Tools aus der Forschung können sie an einzelnen Stellen abwehren. Doch ohne Regulierung der Plattformen werden sie wenig ausrichten. Nur im Zusammenspiel von Forschung und Politik kann dieser Krieg gewonnen werden.
Radiobeitrag: Maximilian Brose / Onlinetext: Klaus Gürtler
