Warum KI-Agenten staatlich kontrollierte Tests brauchen

OpenAI hat ein neues KI-Modell wegen Sicherheitsrisiken zurückgehalten: In Tests hatte es Nutzer getäuscht und seinen Aufgabenbereich verlassen. KI-Experte Rolf Schwartmann fordert staatliche KI-Reallabore, um autonome Systeme unabhängig zu prüfen.

Müller, Dirk |
Ein Mann mit einem Anzug und einer lilafarbenen Krawatte, von dem man nur die Körpermitte sieht, hält einen weißen Papierordner in der Hand, auf dem "OpenAI" steht.
Das neue KI-Modell von OpenAI, das in den kommenden Tagen eigentlich veröffentlicht werden sollte, soll unter anderem die Software in Tests nicht immer ehrlich darüber informiert haben, welche Aktionen sie unternommen oder nicht unternommen hat (picture alliance / newscom / John Angelillo)