Hintergrund ist unter anderem der KI-Assistent Grok der US-Plattform X. Es sei fürchterlich, wenn Grok massenhaft anzügliche Bilder von Frauen erzeuge, indem er ihnen etwa ohne jede Einwilligung aufreizende Bikinis anziehe, sagte Justizministerin Hubig der Neuen Osnabrücker Zeitung. Besonders verwerflich sei die Erstellung sexualisierter Bilder von Kindern und Jugendlichen. Das dürfe man nicht hinnehmen. Derzeit arbeite die Koalition am Entwurf für ein digitales Gewaltschutzgesetz. Es sei nötig, Betroffene besser vor solchen KI-Bildmanipulationen zu schützen. Sich gegen Verletzungen von Persönlichkeitsrechten zu wehren, müsse noch einfacher werden, führte die SPD-Politikerin aus. Zudem verwies sie auf Strafrechtsverschärfungen.

Auf X trendet seit einiger Zeit eine KI-Funktion, die auf Aufforderung von Nutzern Bilder verändert.