Bei einer Veranstaltung des "Stern" sagte sie, über jede neue Technologie müsse der Mensch zum Schluss entscheiden können. Wie bei der Kernenergie brauche es auch bei der KI Regeln. Merkel sagte, nach nur wenigen Versuchen mit dem KI-Bot ChatGPT könne sie diesen bereits dazu bringen, ihr das zu sagen, was sie hören wolle. ChatGPT sei feige. Das Ganze sei faszinierend, schreie aber auch danach, dass man Leitplanken setze.

In den USA wurde die Debatte unter anderem durch eine Anklage gegen den Entwickler von ChatGPT - das Unternehmen OpenAI - genährt. Das Unternehmen muss sich wegen des Vorwurfs der Anstiftung zum Mord vor Gericht verantworten. Im Raum steht der Vorwurf, ChatGPT habe einen psychisch kranken Mann zum Mord an seiner Mutter angestiftet und ihn anschließend in den Selbstmord getrieben. In der Klageschrift heißt es, der KI-Assistent habe die Wahnvorstellungen des Mannes befeuert.

OpenAI kündigte an, die KI weiter zu verbessern, um Menschen bei psychischem Stress besser zu unterstützen.

Mehr zum Thema

10 Jahre OpenAI – Wie ChatGPT zufällig ein Welterfolg wurde

KI und der Arbeitsmarkt Große Umwälzungen und das Ende etlicher Bürojobs