Archiv

Gefälschte VideosDeep Fakes werden zur realen Bedrohung

Täuschend echte, aber es sind gefälschte Videos prominenter Personen – mit einem leistungsstarken Computer und der entsprechenden Software ist das heute kein Problem mehr. Solche Fake Videos könnten Börsenkurse manipulieren oder diplomatische Verwerfungen verursachen. Sie zu erkennen, ist nicht immer einfach.

Von Florian Regensburger | 01.08.2018

Standbild zum ARD-Film "Alles Lüge oder was?"
Schon vor drei Jahren beschäftigte sich ein ARD-Film mit gefälschten Bildern und Videos im Internet. Die Technik schreitet aber immer weiter fort (ARD)
"President Trump is a total and complete Dipshit." - Präsident Trump ist ein absoluter Vollidiot – und weitere wenig schmeichelhafte Bemerkungen aus dem Mund von … Ex-US-Präsident Barack Obama. Dieses Video sorgte vor ein paar Monaten für Aufruhr im Netz. Das Onlinemagazin Buzzfeed hatte es veröffentlicht, ein sogenannter Deep Fake: ein täuschend echt anmutendes Video einer meist prominenten Person – das aber eben eine Fälschung ist.
Der Begriff Deep Fake kombiniert Deep Learning, eine Methodik aus dem Bereich der künstlichen Intelligenz, und Fake – für Fälschung. Und so einen Deep Fake anzufertigen, ist heute gar nicht mehr so schwer. Dafür braucht man einen PC mit leistungsstarker Grafikkarte und eine Software, die es umsonst im Internet gibt, zum Beispiel Myfakeapp. Ein paar Tage rechnet der Computer, dann entsteht in unserem Versuch ein Deep Fake mit Angela Merkel:
"Die Bundesregierung hat mit den Kommunen vereinbart, dass ab Januar 2019 Dieselfahrverbote verhängt werden, um das Gesundheitsrisiko zu minimieren. Das Kraftfahrtbundesamt wird nun die Hersteller zur Nachrüstung von Katalysatoren verpflichten. Die Hersteller haben auch die Kosten dafür zu tragen."
Facebook erkennt Fake nicht
Facebook ist wohl darauf reingefallen. Bei einem Test-Post identifiziert das soziale Netzwerk Angela Merkel und schlägt weitere politische Nachrichtenvideos zur Ansicht vor. Auch im Test per Straßenumfrage mit einem Tablet PC überzeugt die Fälschung Manchen schon – wenn auch längst noch nicht jeden:
"Sie dachten, es ist Frau Merkel?" - "Ich dachte, es ist Frau Merkel." - "Ist das von Ihnen manipuliert, sie spricht so komisch?" - "Ja, das ist aber nicht die Frau Merkel. Na des is se ned."
Für unser Video haben wir das Merkel-Double Antonia von Romatowski den Text mit den Dieselautos sprechen lassen und später ihr Gesicht durch das von Merkel ersetzt. Dazu haben wir die Fake-Software mit echten Merkel-Videos trainiert. Das Programm erlernt die Mimik - und rechnet sie in das Video mit ein.
Eine Stimme digital zu fälschen ist noch nicht ganz so einfach, wenn man keinen fähigen Imitator hat. Aber selbst Gratis-Sprachsoftware hat schon ein beeindruckendes Level erreicht. Auf der Website des kanadischen Unternehmens Lyrebird kann man einen Computer auf die eigene Stimme trainieren, indem man vorgegebene, englische Sätze einspricht. Danach sagt der Computer jeden beliebigen Satz mit der neu gelernten Stimme, zum Beispiel: "Was ist Fälschung – was ist echt?" zu Englisch: "What is fake – what is real?"
"What is fake – what is real?"
Auswirkungen etwa auf Börsenkurse möglich
Nicht schlecht. Was könnte man mit der Fake-Stimme eines mächtigen Politikers anstellen, zusammen mit einem täuschend echt gefälschten Video, verbreitet durch soziale Netzwerke, die es in die Timelines von Millionen Nutzern spülen?
"Das Kraftfahrtbundesamt wird nun die Hersteller zur Nachrüstung von Katalysatoren verpflichten."
In diesem Fall wären direkte Auswirkungen auf Börsenkurse nicht auszuschließen, glaubt Finanzmarktexperte Professor Christoph Kaserer von der TU München:
"Man muss einfach sehen, dass an der Börse solche Nachrichten innerhalb von Sekunden verarbeitet werden, wenn die Marktteilnehmer davon ausgehen, dass eine solche Nachricht echt ist, würden wir innerhalb kürzester Zeit einen erheblichen Kurseinbruch bei den Automobilaktien, auch bei Zulieferern sehen. Das hätte also große Folgen für die Bewertung der Aktien."
Ein denkbares Szenario wäre, dass jemand ein solches Video streut, nach einem möglichen Kurssturz Aktien kauft und sie wieder verkauft, wenn der Fake aufgeflogen ist. Die Herausforderung in Zukunft wird sein, echte und falsche Informationen schnell zu unterscheiden.