Kolumne
Wie Porno-Deepfakes das Frauenbild junger Mädchen prägen können

Auf X wurden gefälschte Bilder von Taylor Swift verbreitet. Die Plattform reagierte nur langsam. Unsere Kolumnistin findet es erschreckend, dass nicht einmal Prominenz und Reichtum vor solch öffentlichem Missbrauch schützen.

Von Samira El Ouassil | 31.01.2024
Taylor Swift auf dem roten Teppich 81. Golden Globe Awards.
Taylor Swift auf dem roten Teppich der 81. Golden Globe Awards. (IMAGO / ZUMA Wire / IMAGO / Javier Rojas)
Ein Alptraum für Frauen. Popsängerin Taylor Swift wurde zum Opfer pornografischer Deepfakes auf dem Kurznachrichtendienst X. Die mit Hilfe von KI generierten Bilder zeigten eine vermeintliche Swift in expliziten sexuellen Handlungen und wurden millionenfach angesehen.
Die Plattform ließ sich Tage Zeit, um die Kampagne einzufangen. Nach den gefälschten Bildern eines Papstes in Daunenjacke, eines Macrons als Müllmann und einer Festnahme von Trump war es traurigerweise nur eine Frage der Zeit bis ein weiblicher Weltstar in Pornoposen viral geht.
Zwar sind gefälschte pornografische Bilder von berühmten und unbekannten Frauen nicht neu, die besondere Qualität hier allerdings: Die Geschwindigkeit der Verbreitung und die Einfachheit in der Herstellung und das bei gleichzeitiger Trägheit der Plattformen. Nur aufgrund der Bekanntheit des diesmal betroffenen Stars werden wir Zeuge der Hemmungs- und Schrankenlosigkeit, mit der diese Verbreitung erfolgt.

Swifties als Verteidigungsinstanz

Seitdem Unternehmer Elon Musk Twitter übernommen, zu X gemacht und nahezu das ganze Moderationsteam gefeuert hat, war die mangelnde Überprüfung illegaler Inhalte ohnehin katastrophal. Jetzt sieht man, an welche Grenzen der Kurznachrichtendienst kommt, wenn er mit KI-Inhalten geflutet wird.
Tatsächlich übernahmen vor allem die Fans von Taylor Swift die meiste Arbeit, um ihr Idol zu schützen, indem sie hundertausende unterstützende Beiträge posteten und versuchten durch Verbreitung von Konzertausschnitten die pornographischen KI-Bilder aus den Suchtrends zu drängen. Die Swiefties haben hier mehr für die Verteidigung einer Frau im Internet getan als Elon Musk und die amerikanischen Gesetze zusammen. Bisher gibt es in den USA nämlich kein Bundesgesetz, das die Verbreitung solcher Bilder unter Strafe stellt.

Nicht einmal Prominenz schützt

Was mich persönlich erschreckt: Wenn selbst eine der berühmtesten und reichsten Künstlerinnen der Welt den öffentlichen Missbrauch ihres virtuellen Körpers nicht einzudämmen vermag, welche Chance hat eine Privatperson? Und insbesondere: Welche Chancen haben junge Frauen, haben Mädchen, davor geschützt zu werden?
Was hier an einem prominenten Beispiel zu sehen ist: Mit der Demokratisierung KI-basierter Bildgenese wird es eine selbstverständliche Praxis werden Frauen und Kinder zum sexualisierten Objekt leicht zu verbreitender Bildmanipulation zu machen. Die sogenannten Nudify-Apps, mit denen man Menschen digital ausziehen kann, sind offen zugänglich. Die KI vermag hier Kleidung täuschend echt in Nacktheit zu verwandeln.
Pornographische Bilder aus generativer KI sind zudem eine Waffe, um unliebsame Aktivistinnen und Politkerinnen öffentlich wirkungsvoll zu erniedrigen. Alles, was Sie in Kommentarspalten lesen, Vergewaltigungsphantasien und sexualisierte Beleidigungen, kann jetzt in Sekundenschnelle bebildert und verbreitet werden.
Samira El Ouassil, 1984 geboren, ist Kommunikationswissenschaftlerin, Autorin und Podcasterin. Sie schreibt Kolumnen für Spiegel und Übermedien. Zu ihren Themen gehören Feminismus, Medien und Rassismus.

Was macht das mit Frauen und Mädchen?

Wie wirkt sich diese Dynamik auf meinungstarke Frauen aus, die damit rechnen müssen, in einem Gangbang gezeigt zu werden, wenn sie Thesen vertreten, die manchen nicht schmecken? Wie wirkt sich das auf ihre Arbeit aus? Wie wirkt sich das auf Wahlen aus?
Was macht es mit Mädchen und jungen Frauen, wenn sie nun permanent befürchten müssen, jederzeit als künstlich hergestellte visuelle Sexphantasie durch Chats gereicht werden zu können? Aus Rache, wenn sie z.B. mit einem Jungen nicht schlafen möchten. Oder als Mittel von Mobbing. Was macht es mit einem fragilen Selbstbild, sich in solchen Pornokörpern zu sehen?
Es ist, als verlieren Frauen und Minderjährige hier virtuell das Recht am eigenen Gesicht und am eigenen Körper und die Souveränität ihres Selbst gleich mit.
“Der einzige 'positive Punkt' daran, dass das mit Taylor Swift passiert, ist, dass sie genug wiegt, damit ein Gesetz verabschiedet wird, das das beseitigt.", postete die Influencerin Danisha Carter auf X. Und ja, die Sensibilisierung für die Tragweite dieser Technologie ist gut - wobei es eben traurig ist, dass die Prominenz das erst in Gang bringen konnte. Aber noch besser wäre es vielleicht, wenn Taylor Swift das ehemalige Twitter einfach kauft.