Darin heißt es, künstliche Intelligenz müsse unter menschlicher Leitung, Aufsicht und Kontrolle bleiben. Unternehmen sollten unter anderem zu Tests, unabhängigen Prüfungen und transparenten Sicherheitsprotokollen verpflichtet werden. Der Aufruf wurde von 18 Staats- und Regierungschefs unterschrieben, darunter auch von Bundeskanzler Merz. Die USA und China haben die Erklärung bislang nicht unterzeichnet. Auch ein UNO-Expertengremium hat schärfere Sicherheitsregeln für Künstliche Intelligenz gefordert. Diese sollten sich an Regeln wie in der Luftfahrt oder bei Atomkraftwerken orientieren.

Mehrere Anbieter von Künstlicher Intelligenz hatten die Politik zuvor aufgefordert, neue Regeln für die KI-Entwicklung zu erlassen. Einzelne Experten warnten, die Technologie könne aufgrund der rasanten Weiterentwicklung zu einer Bedrohung werden und sogar zur Auslöschung der Menschheit führen.