Nach internationaler Kritik
Chatbot "Grok" von Elon Musk schränkt Möglichkeiten für KI-generierte Sexbilder ein

Das US-Unternehmen X-AI schränkt die Möglichkeiten ein, mit Hilfe von Künstlicher Intelligenz Fotos zu manipulieren. Das teilte das Unternehmen von Milliardär Elon Musk mit. Dabei geht es um eine Funktion des KI-Assistenten Grok.

    Ein alös Silhouette Daumen auf einem weißen Smartphone-Screen, auf dem in schwarz "Grok" steht. Dahinter ein bunteer Hintergrund.
    Umstritten: Der KI-Chatbot Grok. (IMAGO / SOPA Images)
    Diese hatte zuletzt auf der Plattform X einen Trend ausgelöst. Viele nutzen ihn, um ungefragt, sexualisierte Bilder vor allem von Frauen zu erzeugen und zu verbreiten. X-AI teilte mit, man habe nun technische Maßnahmen ergriffen. Reale Personen sollten künftig nicht mehr einfach in freizügiger Kleidung wie Bikinis oder Unterwäsche dargestellt werden können. Die Einschränkungen gelten sowohl für die kostenfreie als auch für die kostenpflichtige Nutzung. Die EU-Kommission erklärte, man werde die angekündigten Maßnahmen analysieren. - Gestern hatte Bundesjustizministerin Hubig (SPD) angekündigt, gesetzlich gegen solche Funktionen vorzugehen.
    Kürzlich hatte die britische Medienaufsicht Ermittlungen gegen X eingeleitet. Die Bundesregierung hatte gestern gesetzliche Maßnahmen angekündigt; der US-Bundesstaat Kalifornien eine rechtliche Untersuchung. Indonesien und Malaysia haben Grok bereits gesperrt. International wird unter anderem kritisiert, dass durch Grok auch Bilder Minderjähriger sexualisiert werden.

    Aus dem Deutschlandfunk-Programm

    Musk-KI Grok beschränkt Erstellung sexualisierter Bilder
    Diese Nachricht wurde am 15.01.2026 im Programm Deutschlandfunk gesendet.