X war in den vergangenen Wochen in die Kritik geraten, weil zunächst alle Nutzerinnen und Nutzer den KI-Chatbot Grok auffordern konnten, gepostete Bilder zu sexualisieren. Immer wieder befahlen Menschen der KI etwa, Fotos zu manipulieren und Frauen in Bikinis zu kleiden. 

An Silvester bat das Unternehmen um Entschuldigung dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben - und kündigte Änderungen an. Bei der Untersuchung geht es laut EU-Kommission daher auch um Bilder, die als Kindesmissbrauch gelten könnten.

EU-Kommissionspräsidentin von der Leyen teilte mit, die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben. "In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren", fügte die deutsche Politikerin hinzu. Rechtsgrundlage ist der "Digital Services Act", das zentrale EU-Gesetz zur Plattformregulierung.

Nach der Deeskalation im Grönland-Konflikt nimmt die Kommission mit diesem Schritt das Risiko in Kauf, die US-Regierung von Donald Trump erneut zu verärgern. In Anbetracht der teilweise seit Jahren andauernden Ermittlungen - auch gegen X - halten Kritiker der EU gleichzeitig schon länger vor, ihre Digitalregeln nicht konsequent genug durchzusetzen. 

Gegen Musks Online-Plattform laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen - etwa wegen der Moderation und des Risikomanagements illegaler Inhalte. Erst Anfang Dezember hatte die EU gegen X eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt. Washington reagierte damals scharf, sprach von Zensur und verhängte Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie andere Europäer.