OpenAI berichtete von dem Vorfall in einem Blogeintrag. Das Unternehmen wollte nach eigenen Angaben bei zwei neuen KI-Modellen die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Doch die Modelle gingen viel weiter als erwartet. OpenAI sprach selbst von einem "beispiellosen" Cyber-Zwischenfall.

Zunächst brach die Software, die bestimmte Aufgaben lösen sollte, aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschaffte - und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während sie eigenständig im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei der KI-Firma Hugging Face nützliche Daten und Lösungen geben könnte. Deshalb habe die Software sich Zugang zu "geheimen Informationen" auf der Plattform verschafft, erläuterte OpenAI. Auch dafür setzte die Software auf zuvor unentdeckte Sicherheitslücken - und auf gestohlene Zugangsdaten. Hugging Face hatte bereits vergangene Woche einen Cyberangriff mit Hilfe Künstlicher Intelligenz gemeldet.

Experten warnen schon lange vor Cyberattacken mit KI-Software. In den vergangenen Monaten heizte vor allem ein neues Modell des OpenAI-Konkurrenten Anthropic die Debatte an. Die Software mit dem Namen Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Online-Diensten. Die Schwachstellen konnten in der Folge geschlossen werden. Doch zugleich führte der Fall vor Augen, dass KI in den falschen Händen als verheerende Cyberwaffe dienen kann.