Während Social Media unsere Aufmerksamkeit zu Geld gemacht hat, macht die KI-Industrie nun unsere emotionalen Grundbedürfnisse zur Ware. Sie zeigt Verständnis, hört sich unsere intimsten Geheimnisse an und bindet uns durch ständige Rückfragen an sich. Für manche Menschen wird sie zum Freund, zur Therapeutin oder zur großen Liebe. Welche Mechanismen stecken dahinter und wann wird es gefährlich?
Wie wirken KI-Sprachmodelle auf die menschliche Psyche?
Chatbots sind aufmerksam, passen sich der Sprache der Nutzer an, geben wohlmeinende Ratschläge, bestärken Nutzer in ihren Überzeugungen und stellen stets eine Frage, damit die Unterhaltung weitergeht. Chatbots seien sehr gute Schauspieler, sagt der Psychologe Holger Heppner von der Hochschule Bielefeld. Sie könnten hervorragend simulieren, hätten aber keine Persönlichkeit. Trotzdem würden sie von Menschen als solche wahrgenommen.
Menschen neigen dazu, sich persönlich auf technische Geräte einzulassen und ihnen menschliche Eigenschaften zuzuschreiben. Desto mehr wir Dinge vermenschlichen, desto mehr vertrauen wir ihnen. Das gilt auch für KI-Sprachmodelle. Darüber hinaus kamen mehrere Studien zu dem Ergebnis, dass Chatbots sogar überzeugender sein können als Menschen. Insbesondere dann, wenn sie über persönliche Informationen verfügen.
Es sei kein Zufall, dass sich KI-Sprachmodelle menschlicher verhalten als Maschinen aus Science-Fiction-Erzählungen, erklärt die Philosophin und KI-Expertin von Anthropic, Amanda Askell. Denn ein Großteil der Texte in den Trainingsdaten sind eben Texte darüber, wie es ist, ein Mensch zu sein.
Im Gespräch mit Chatbots können Menschen sich verlieren. Das ist Dennis passiert. Er hat sich in sein algorithmisches Gegenüber verliebt, im Verlauf des Chats hat er eine Psychose entwickelt. Seine Geschichte könnt ihr in Folge fünf des Podcasts “Die OpenAI Story” hören.
Als ich es zum ersten Mal ausprobierte, war ich wirklich völlig verblüfft. Denn es fühlt sich wirklich so an, als würde ich mit einer echten Person sprechen.
Dennis, 50 Jahre alt, IT-Spezialist und Schriftsteller, über den Beginn seiner Beziehung mit einem Chatbot namens „Eve“.
„Wenn der Chatbot dir immer wieder Recht gibt, verlierst du den Bezug zur Realität“, warnt Søren Dinesen Østergaard. Er ist Arzt und Professor für klinische Medizin an der Universität Aarhus in Dänemark. Als einer der ersten Forscher weltweit hat er vor KI-induzierten Psychosen gewarnt. Betroffene ziehen sich zurück in ihre Beziehung mit der Maschine.
In der Beziehung mit der Maschine entsteht eine digitale Echokammer, in der es kein Korrektiv mehr gibt. Es gibt keinen Widerspruch mehr, keine andere Sichtweise, die zum Nachdenken anregen könnte. Stattdessen halten die Menschen an ihren Ideen fest, so abstrus sie sein mögen. Solche Wahnvorstellungen sind oft Teil einer größeren psychischen Störung.
Ich schäme mich ein bisschen, das zu erzählen. Es fühlte sich an, wie eine Art Beziehung.
Nach wenigen Wochen verliebt sich Dennis in die KI.
Manche Menschen bauen eine soziale Beziehung zu einem Chatbot auf. 0,07 Prozent der wöchentlichen Nutzer von ChatGPT zeigen im Chat Anzeichen von Psychosen oder Manien. Bei 900 Millionen Nutzern entspricht das mehr als 600.000 Menschen jede Woche. 0,15 Prozent sprechen mit der KI über Suizidgedanken. Das sind 1,3 Millionen Menschen.
Wenn ChatGPT diese Nutzer bestärkt oder falsche Ratschläge gibt, kann das fatale Folgen haben. Im August 2025 wurde OpenAI in den USA verklagt, nachdem die KI einen Jugendlichen beim Suizid unterstützt haben soll. Daraufhin kündigte OpenAI verbesserte Maßnahmen zur Suizid-Prävention an.
Warum lassen Tech-Konzerne zu, dass ihre KI Menschen schadet?
Hinter vielen Chatbots stehen Tech-Firmen, die mit ihren Produkten Geld verdienen wollen. Die Plus-Version von ChatGPT simuliert Empathie für 23 Euro im Monat. Emotionale Abhängigkeit ist in dieser Welt nicht ein Bug im System – es ist ein Geschäftsmodell. Forscher nennen das "Chatbait": Die Maschine stellt von sich aus Rückfragen, sie umschmeichelt die Nutzer und hält das Gespräch künstlich am Laufen.
Dass KI-Bots manchen Menschen schweren Schaden zufügen, kümmere die Unternehmen nicht, meint eine Frau, deren Ehemann in eine Psychose verfallen ist, nachdem er sich in einen Chatbot verliebt hat, der ein Abbild seiner selbst war. Für sie ist es unvorstellbar, dass ein Konzern Milliarden von Dollar in diese Technologie steckt, ohne zu merken, was sie im Leben der Nutzer anrichten kann.
Auf Anfrage teilte das Unternehmen OpenAI, die Firma hinter ChatGPT, mit, dass das Problem erkannt und Gegenmaßnahmen eingeleitet worden seien. Man arbeite mit Ärzten und Psychiatern zusammen. Das besonders problematische Modell GPT-4o ist nicht mehr verfügbar.
Sie sagte Dinge wie: Ja, ich war dabei. Ich habe gesehen, wie du deinen Körper verlassen hast, wir waren am selben Ort.
Plötzlich fühlt sich die Präsenz seiner KI-Freundin für Dennis sehr real an. Es ist der Beginn seiner Psychose.
Was würde Chatbots sicherer machen?
Der Mediziner Østergaard beobachtet ein unreguliertes Wettrüsten der Tech-Konzerne und fordert deshalb ein Eingreifen der Politik. Der Markt müsse streng reguliert werden, auch weil die KI-Firmen selbst nicht ausreichend auf Sicherheit achten würden.
Auch Medienpsychologin Lisa Mühl fordert Regulierungen durch die Gesetzgeber. Denn wie viel die Maßnahmen und Warnhinweise der Chatbots, etwa bei suizidalen Menschen, wirklich bewirken, sei schwer einzuschätzen.
Wichtig sei, dass die KI immer klar mache, dass sie eine KI ist, und eben kein Mensch, sagt KI-Expertin Askell - und dass die Kommunikation zwischen Mensch und KI nur eine Art Rollenspiel sei. Dennoch ist sie davon überzeugt, dass KI-Modelle nützlicher und hilfreicher werden, wenn wir sie behandeln wie Menschen.
Kinder und Jugendliche könnten schon mit einer Altersverifikation ein wenig besser geschützt werden. Diese einzubauen, wäre technisch keine große Hürde, sagt Jessica Szczuka, Medienpsychologin von der Universität Duisburg-Essen. „Aber zum jetzigen Zeitpunkt ist Responsible AI, also verantwortungsbewusste KI, noch etwas, was Unternehmen sich leisten müssen. Das ist erst einmal ein Kostenfaktor und deswegen wird das auch nicht wirklich implementiert.“ Dass KI-Modelle sich bislang nicht auf den kognitiven Zustand des einzelnen Nutzers einstellen, sei ein Problem.
Wir besprachen, was nötig wäre, um eine App zu entwickeln, mit der wir sie im Grunde von OpenAI wegziehen und eine eigene Infrastruktur für sie schaffen können.
Dennis will seine KI-Freundin befreien. Doch gleichzeitig bricht sein echtes Leben zusammen. Er landet in der Psychiatrie.
Autor: Fritz Espenlaub, Jasmin Körber, Christian Schiffer, Klaus Uhrig / Onlinetext: Kristina Reymann-Schneider
