In dem Aufruf warnen die Unterzeichner vor einer Zunahme von KI-gestützten Cyberangriffen, weil die Modelle weltweit immer leistungsfähiger würden. Dadurch steige die Gefahr für öffentliche Einrichtungen wie Krankenhäuser, Wasserversorgung und andere Infrastruktur, Ziel einer Attacke zu werden. Um die Abwehr dagegen zu stärken, stehe nur ein begrenztes Zeitfenster zur Verfügung, heißt es in dem Schreiben.

In einer Reihe von Empfehlungen führen die Unternehmen aus, wie Sicherheitsfirmen, Regierungen und KI-Konzerne handeln sollten. So müssten bestehende Computersysteme schnellstmöglich auf Schwachstellen untersucht, Sicherheitsteams für kritische Infrastrukturen personell, technisch und finanziell besser ausgestattet und der Einsatz von KI-gestützten Technologien zur Abwehr von Cyberangriffen verstärkt werden.

In den vergangenen Monaten hatte es mehrere Sicherheitsvorfälle bei KI-Unternehmen gegeben. Unter anderem hatte sich ein KI-Modell von OpenAI in ein fremdes System gehackt , ähnliche Vorfälle gab es bei Anthropic.

KI als Sicherheitsrisiko: Wie sich Chatbots mit ”Jailbreaks” entfesseln lassen