Die Geschwindigkeit ‌müsse koordiniert gedrosselt werden, führte Amodei aus. Der Fortschritt werde dennoch weiterhin schnell erscheinen. Die gewonnene Zeit müsse aber klug genutzt werden. Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf X.

Die Sorge vor möglichen Schäden durch KI war in dieser Woche weiter gewachsen, nachdem der Anthropic-Forscher Jacob Coxon zurückgetreten war. Zur Begründung hatte er gesagt, er sehe eine immer größere Bedrohung durch KI und die Möglichkeit, dass diese bereits bis zum Ende des Jahrzehnts massenhaft töten könne. Auch die Vereinten Nationen hatten gewarnt, KI könne die Existenz ⁠der ⁠Menschheit gefährden.

In der Branche hatten ⁠sich zuletzt Vorfälle gehäuft, bei denen KI-Agenten von Entwicklern wie dem Anthropic-Rivalen OpenAI externe ⁠Systeme gehackt oder versucht haben, darauf zuzugreifen. Dies hat die ⁠Bedenken hinsichtlich der zunehmenden Leistungsfähigkeit der Modelle und ‌eines möglichen Kontrollverlusts verstärkt.

Die Probleme haben auch die Politik alarmiert. Die Nachrichtenagentur Reuters hatte am Freitag unter Berufung auf Insider berichtet, führende US-Senatoren verhandelten über ein Gesetz, ​das große Tech-Konzerne wie Google und OpenAI zu mehr Sicherheit bei der Entwicklung von KI-Anwendungen verpflichten soll. Der Entwurf sehe eine sogenannte Sorgfaltspflicht für KI-Entwickler vor. Zudem solle es der Regierung möglich sein, die Veröffentlichung ​unsicherer KI-Modelle zu blockieren.