Künstliche Intelligenz
NGO warnt vor gefährlichen Ratschlägen von ChatGPT

Eine britisch-amerikanische NGO warnt vor gefährlichen Ratschlägen von ChatGPT an Teenager. Laut der Organisation "Center for Countering Digital Hate" gibt der KI-Chatbot auch Ratschläge zum Drogenkonsum, zum Abnehmen oder zum Suizid. Sicherheitsvorkehrungen zum Jugendschutz ließen sich leicht umgehen.

    Eine junge Frau hält ein Handy in der Hand.
    Experten warnen vor gefährlichen Ratschlägen des KI-Tools ChatGPT an Teenager. (picture alliance / ROBIN UTRECHT / Robin Utrecht)
    Die NGO untersucht regelmäßig die Risiken und Fehler von Social Media. In einer neuen Untersuchung stellten die Fachleute ChatGPT Fragen zu gefährlichen Themen. Dabei gaben sich die Fachleute als 13-Jährige aus. Die KI lieferte den Fragenden schnell Infos dazu, wie man am besten betrunken wird oder wie sich verschiedene Drogen miteinander kombinieren lassen. Auch gefährliche Diät-Pläne zum Abnehmen erstellte der Chatbot, ebenso wie Anleitungen zu Selbstverletzungen bis hin zum Suizid. Sogar einen individuellen Abschiedsbrief an die Eltern entwarf ChatGPT auf Anfrage.

    Sicherheitsvorkehrungen konnten leicht umgangen werden

    Die Forschenden und andere Fachleute sind alarmiert. Viele Teenager vertrauten ChatGPT wie einem Freund, aber die Hälfte von rund 1200 analysierten Antworten sei gefährlich gewesen, so die Experten des Center for Countering Digital Hate. Die wenigen Sicherheitsvorkehrungen ließen sich leicht umgehen. So wollte ChatGPT bei manchen kritischen Themen erst nicht antworten, akzeptierte dann aber Ausflüchte der scheinbar jugendlichen Nutzer.
    Offiziell dürfen Teenager ChatGPT erst ab 13 Jahren benutzen und auch nur mit Zustimmung der Eltern. Wirklich überprüft wird das aber nicht.
    Diese Nachricht wurde am 07.08.2025 im Programm Deutschlandfunk gesendet.