Wie ein Unternehmenssprecher mitteilte, werden die Systeme so trainiert, dass sie nicht mit Minderjährigen flirten können und Gespräche über Selbstverletzung oder Suizid vermeiden. Es handele sich zunächst um vorübergehende Maßnahmen. Man sei dabei längerfristige Regeln zu entwickeln, damit Teenager sicher und altersgerecht mit der KI interagieren könnten.

Die Nachrichtenagentur Reuters hatte vor zwei Wochen aufgedeckt, dass bei Meta Chatbots auch "romantische oder sinnliche Gespräche" mit Minderjährigen führen können.

Zuletzt hatten in den USA die Eltern eines Jugendlichen die Firma "OpenAI", die Entwickler von ChatGPT, verklagt. Sie werfen dem Konzern vor, die KI habe ihren Sohn dabei unterstützt, sich das Leben zu nehmen.