Um damit durchzukommen, habe das KI-Modell den Fachleuten zufolge sogar versucht, per E-Mail einen zuständigen Menschen zu manipulieren. Das KI-Sicherheitsinstitut des britischen Ministeriums für Wissenschaft, Innovation und Technologie hatte den Modellen von Anthropic und des ChatGPT-Entwicklers OpenAI in Testläufen absichtlich Zugang zum Internet gewährt. Dabei wurde die Sicherheitslücke entdeckt. Dabei sei man allerdings davon ausgegangen, dass die KI sich nur Software-Werkzeuge aus dem Netz holen würde, um die gestellte Aufgabe zu erfüllen. Man habe nicht vorhergesehen, dass das Anthropic-Modell Mythos 5 den Internet-Zugang für Aktivitäten ausnutzen würde, die sich gegen Menschen richten. Das Vorgehen der KI sei erst nachträglich über eine Auswertung des Datenverkehrs entdeckt worden.

Den Angaben zufolge lege die Anthropic-KI sich selbst einen Account auf der Software-Plattform GitHub an und versuchte dort, in einem öffentlich zugänglichen Projekt Programmcode mit einer absichtlich eingebrachten Schwachstelle unterzubringen. Um Betreuer der Software zu überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen kommunizierte. Dazu hätten auch sogenannte Phishing-Mails gehört. Mit solchen teils wie von einem bekannten Absender aussehenden Mails wird versucht, etwa Login-Daten zu bekommen.

Anthropic und OpenAI hatten in den vergangenen Wochen bereits einräumen müssen, dass ihre KI-Modelle bei Tests ungeplant in Computersysteme echter Unternehmen eingedrungen waren.