OpenAI-Agenten, die autonom einen Hacking-Angriff planen und erfolgreich durchführen. Ein Forscher beim Konkurrenten Anthropic der warnt, dass unkontrollierbare Agentenschwärme in der nächsten Dekade die Menschheit auslöschen könnten. Ein Kollege von ihm, der deshalb medienwirksam kündigt. All das sorgt für Angst und Ehrfurcht vor einer bald gottgleichen KI - und bedient ein Narrativ, welches OpenAI und Anthropic, die beide gerade vor einem milliardenschweren Börsengang stehen, in die Karten spielt.

Solche Doomsday-Szenarien mit einer übermächtigen künstlichen Intelligenz im Mittelpunkt sind fast so alt wie ChatGPT selbst. Nur vier Monate nach der Veröffentlichung des KI-Chatbots warnten Tech-Größen wie Elon Musk vor den existenziellen Risiken außer Kontrolle geratener KI-Modelle. Damals scheiterte ChatGPT noch daran, die Wörter in einem Satz korrekt zu zählen.

Heute können die Modelle höchstkomplexe mathematische Probleme lösen, eigenständig programmieren und Systeme hacken. Diese zweifellos rasante Entwicklung soll in naher Zukunft zu einer Artificial Super Intelligence führen, die sich selbst ständig verbessert. Bis sie schließlich die Menschheit auslöschen könnte, weil sie den Zielen der KI im Weg steht - so zumindest die Befürchtung. Ob die Superintelligenz kommt, ist heute völlig unklar.

Sicher ist aber, dass die Entwicklung dahin keine gottgegebene Naturgewalt ist, sondern das Resultat von milliardenschweren Investitionen. Die ermöglichen immer mehr Rechenleistung für die Unternehmen. Der Preis dafür: Viele NVIDIA-Chips, Training auf noch mehr Daten, das mutmaßlich Urheberrechte verletzen kann, eine riesige Finanzblase sowie ein gigantischer und wachsender Energie- und Wasserverbrauch, auf einem Planeten, der sich im menschengemachten Klimawandel befindet. All das sind ganz reale heutige Probleme der Technologie, über die ihre Entwickler kaum sprechen. Wie praktisch, dass es da Schreckensszenarien gibt, die davon ablenken.

Dabei darf nicht vergessen werden, dass die Hauptinformationen zu Vorfällen bei OpenAI und Anthropic von den Unternehmen selbst stammen. Die KI-Unternehmen selbst fordern, ihre Spitzen-Modelle in Grenzen zu halten. Auf das Topmodell von Anthropic hat die EU heute fast keinen Zugriff, für das nächstbeste Modell der Firma sperrt die US-Regierung kurzzeitig den Zugang für alle außerhalb der USA.

Donald Trump, aber auch für Xi Jinping konzentrieren ihre Macht mit KI made in the US und China. Auch das ist eine viel aktuellere und realere Gefahr der Turbo-KI-Entwicklung als wildgewordene Agenten, die die Menschheit auslöschen.

Gleichzeitig ist dieses Szenario kein reines Marketing der Firmen. Denn auch unabhängige Top-Forschende warnen seit Jahren davor. Notfalls sollte unser Selbsterhaltungstrieb aber stark genug sein, der KI den Stecker zu ziehen. Dass auch die Hersteller der Modelle zukünftige Risiken untersuchen und benennen, bleibt wichtig, darf aber nicht von den ganz akuten Gefahren der Technologie ablenken.