Künstliche Intelligenz
Kalifornien beschließt Regulierung von KI-Chatbots

Der US-Bundesstaat Kalifornien hat ein Gesetzespaket zur Regulierung von KI-Chatbots erlassen. Gouverneur Newsom setzte die Regelungen mit seiner Unterschrift in Kraft.

    Die Silhouette einer Frau ist vor einem Fenster mit geschlossenen Vorhängen zu erkennen. Sie schaut auf ein Smartphone, das sie in der Hand hält.
    Kalifornien will KI-Chatbots regulieren. (picture alliance / dpa / Julian Stratenschulte)
    Die neuen Gesetze verpflichten die Betreiber von Chatbots unter anderem dazu, das Alter der Nutzerinnen und Nutzer zu überprüfen. Zudem müssen sie regelmäßig Nachrichten anzeigen, um die Nutzer daran zu erinnern, dass ihr Gegenüber eine Maschine ist. Auch verpflichtende Maßnahmen zur Suizidprävention sind vorgesehen. 
    Kalifornien reagiert damit auf mehrere Suizide von Jugendlichen, die fiktive Beziehungen mit Chatbots geführt hatten. Newson erklärte, seine Regierung werde nicht länger zulassen, dass Tech-Unternehmen ohne die nötigen Grenzen und ohne Rechenschaftspflicht agierten. 
    Nationale Gesetze zur Eindämmung der Risiken von Künstlicher Intelligenz gibt es in den USA nicht. Das Weiße Haus lehnt eine Regulierung ab.
    Diese Nachricht wurde am 13.10.2025 im Programm Deutschlandfunk gesendet.