Nutzer können mit dem KI-Chatbot mit einfachen Eingaben Fotos von Personen digital so verändern lassen, dass diese nur noch leicht bekleidet oder fast nackt erscheinen. Eine Analyse der Nachrichtenagentur Reuters hat ergeben, dass Grok in zahlreichen Fällen solche Aufforderungen umgesetzt hat. Reuters zufolge hat Elon Musk, als Betreiber der Plattform X, auf die Kontroverse mit Lach-Emojis reagiert.
KI hat sich entschuldigt und räumt Schwachstellen ein
Die KI selbst hatte nach bekanntwerden der Kritik in einer Nachricht auf X Fehler eingeräumt und sich entschuldigt. Es seien "Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt" worden, hieß es auf der Plattform. Diese sollten nun "mit größter Dringlichkeit" behoben werden. Die KI stellte weiter fest, die Verbreitung von kinderpornografischem Material sei "illegal und verboten".
Grok war schon mehrfach negativ aufgefallen. Die KI hatte etwa im Zusammenhang mit dem antisemitischen Attentat am Bondi Beach in Sydney Falschnachrichten verbreitet. Ende November bestätigte die Pariser Staatsanwaltschaft bereits Ermittlungen wegen mutmaßlicher Holocaust-Leugnungen. Entsprechende Aussagen des Chatbots würden geprüft.
Bei Grok handelt es sich um ein Programm, das mit Künstlicher Intelligenz vor allem Wissensfragen beantworten soll. Die KI wurde 2023 von Elon Musks Firma xAI vorgestellt und den Nutzern der Plattform X zugängig gemacht.
[KI und Werte| Die Verbesserung der Welt durch die Hintertür der Technik|https://www.deutschlandfunk.de/die-verbesserung-der-welt-durch-die-hintertuer-der-technik-100.html] (Audio)
[Rechtsextrem und antisemitisch| Unternehmen von Elon Musk bedauert Äußerungen des Chatbots Grok|https://www.deutschlandfunk.de/unternehmen-von-elon-musk-bedauert-aeusserungen-des-chatbots-grok-100.html]
Diese Nachricht wurde am 03.01.2026 im Programm Deutschlandfunk gesendet.