
Die NGO untersucht regelmäßig die Risiken und Fehler von Social Media. In einer neuen Untersuchung stellten die Fachleute ChatGPT Fragen zu gefährlichen Themen. Dabei gaben sich die Fachleute als 13-Jährige aus. Die KI lieferte den Fragenden schnell Infos dazu, wie man am besten betrunken wird oder wie sich verschiedene Drogen miteinander kombinieren lassen. Auch gefährliche Diät-Pläne zum Abnehmen erstellte der Chatbot, ebenso wie Anleitungen zu Selbstverletzungen bis hin zum Suizid. Sogar einen individuellen Abschiedsbrief an die Eltern entwarf ChatGPT auf Anfrage.
Sicherheitsvorkehrungen konnten leicht umgangen werden
Die Forschenden und andere Fachleute sind alarmiert. Viele Teenager vertrauten ChatGPT wie einem Freund, aber die Hälfte von rund 1200 analysierten Antworten sei gefährlich gewesen, so die Experten des Center for Countering Digital Hate. Die wenigen Sicherheitsvorkehrungen ließen sich leicht umgehen. So wollte ChatGPT bei manchen kritischen Themen erst nicht antworten, akzeptierte dann aber Ausflüchte der scheinbar jugendlichen Nutzer.
Offiziell dürfen Teenager ChatGPT erst ab 13 Jahren benutzen und auch nur mit Zustimmung der Eltern. Wirklich überprüft wird das aber nicht.
Diese Nachricht wurde am 07.08.2025 im Programm Deutschlandfunk gesendet.