Den Angaben zufolge sollen Eltern künftig kontrollieren können, wie die Künstliche Intelligenz auf das Verhalten der Kinder reagiert, indem sie "altersgerechte Verhaltensregeln festlegen". Details dazu nannte OpenAI nicht. Auch sollen Eltern benachrichtigt werden, wenn die Software eine "akute Notlage" feststelle.

Die Eltern des 16-Jährigen haben OpenAI verklagt, da sie ChatGPT für den Selbstmord ihres Sohnes verantwortlich machen. Ihr Kind habe eine ungesunde Abhängigkeit von ChatGPT entwickelt.

Zuvor hatte bereits der Facebook-Mutterkonzern Meta neue Schutzmaßnahmen für den Umgang seiner KI-Chatbots mit Minderjährigen eingeführt. Wie ein Unternehmenssprecher mitteilte, werden die Systeme so trainiert, dass sie nicht mit Minderjährigen flirten können und Gespräche über Selbstverletzung oder Suizid vermeiden. Es handele sich zunächst um vorübergehende Maßnahmen. Man sei dabei längerfristige Regeln zu entwickeln, damit Teenager sicher und altersgerecht mit der KI interagieren könnten.