Künstliche Intelligenz
Forscher warnen vor Super-KI: Droht das Ende der Menschheit?

Die Weiterentwicklung von KI-Modellen schreitet rasant voran - für viele, die an der Erforschung und Entwicklung künstlicher Intelligenz beteiligt sind, zu rasant. Sie warnen immer lauter davor, dass die KI außer Kontrolle und zu einer reellen Bedrohung für die Menschheit werden könnte.

Nach mehreren beunruhigenden Zwischenfällen mit eigenständig handelnder KI-Software fordern inzwischen sogar führende Köpfe der amerikanischen Technologiebranche wie Anthropic-Chef Dario Amodei und OpenAI-Chef Sam Altman eine Atempause bei der Entwicklung Künstlicher Intelligenz. Evan Hubinger, Sicherheitsexperte bei Anthropic, schätzt das Risiko, dass KI im Laufe des nächsten Jahrzehnts alle Menschen tötet, auf „über zehn Prozent“.

Die Befürchtung der Fachleute: Eine „künstliche Superintelligenz“ könnte entstehen und die Menschheit vernichten, etwa weil sie den Zielen der KI im Weg steht. Eine Reihe von Experten und Branchenvertretern hatte bereits im Mai 2023 vor diesem Szenario gewarnt. Sie riefen dazu auf, das Thema so ernst zu nehmen wie die Gefahren durch Pandemien oder Atomwaffen

Hintergrund der Warnungen: Je mehr KI-Modelle sich selbst weiterentwickeln, desto weniger Möglichkeiten haben Menschen noch, steuernd einzugreifen. Das Tempo sei zu hoch, das mache auch vielen Entwicklern Angst, sagte KI-Forscher Jeffrey Ladish im Juni im Podcast „For Humanity“.

Wie eine Super-KI agieren und sich gegen die Menschheit wenden könnte, weiß allerdings niemand. Der Informatik-Professor Stuart Russell von der University of California in Berkeley glaubt, sie könnte Roboter einsetzen, um „neue Krankheitserreger zu synthetisieren und zu verbreiten“ - oder „Menschen dazu bringen, einen Atomkrieg zu beginnen, indem es sich in Frühwarnsysteme hackt“. KI-Modelle könnten Maßnahmen ergreifen, die heute noch unvorstellbar seien, etwa den Entzug von Sauerstoff aus der Atmosphäre, so Russell.

Doch längst nicht alle Experten erwarten das Ende der Menschheit durch künstliche Intelligenz. Düstere Vorhersagen mit Prozentangaben „seien vollkommen unwissenschaftlich“, meint etwa der IT-Professor Hussein Abbass von der UNSW Canberra. „Die Lage ist noch kontrollierbar und lässt sich beherrschen.“ Regierungen müssten aber mehr Tempo machen bei der Regulierung der KI. Laut dem KI-Forscher Jeffrey Ladish gibt es viele Entwickler, die das Risiko für „ziemlich klein“ halten. Es gebe in der Frage „eine Vielfalt von Meinungen“.

Allerdings: Selbst KI-Optimisten, die die potenziell positiven Auswirkungen in den Vordergrund rücken, streiten nicht ab, dass es Risiken gibt. Wie lange es dauern könnte, bis eine künstliche Superintelligenz entsteht, ist unter Experten umstritten.

Doch auch andere Szenarien machen Forschern und Branchenvertretern Sorgen. Laut einer Studie des Massachusetts Institute of Technology (MIT) sehen Fachleute die größten potenziellen Gefahren nicht nur in einer KI mit gefährlichen Fähigkeiten, sondern auch in KI-Waffen, Cyberangriffen oder der Konzentration von zu viel Macht in den Händen weniger durch KI.

Hinweise auf konkrete Risiken gibt es bereits heute. So hatten Nutzer der Anthropic-KI Claude kürzlich versucht, die KI für die Entwicklung von biologischen Kampfstoffen einzusetzen. Das teilte das US-Unternehmen mit. Zudem habe es verdächtige Anfragen aus blockierten Regionen gegeben, bei denen es um die Erforschung einer Vogelgrippe-Variante gegangen sei, die sich auf Säugetiere übertragen ließe. In einem anderen Fall wurde Unterstützung bei der Entwicklung neuer Gifte angefordert. Dabei habe es sich allerdings um Anfragen von Wissenschaftlern gehandelt.

Große Techkonzerne wie Google, Microsoft, OpenAI und Anthropic selbst hatten in den vergangenen Monaten bereits vor der Gefahr eines Missbrauchs von künstlicher Intelligenz im Bereich von Biowaffen gewarnt. OpenAI stoppte kürzlich die Arbeit an seinen neuesten Modellen für zwei Wochen und nahm sie dann unter verschärften Sicherheitsvorschriften wieder auf.

Aus Sorge vor möglichen Gefahren durch KI haben sich im Juli mehr als 1300 Mitarbeiter von KI-Firmen mit einer Petition an die US-Regierung gewandt. Die Unterzeichner – darunter Anthropic-Chef Dario Amodei – fordern Washington zur Mithilfe dabei auf, die Entwicklung automatisierter KI-Modelle zu verlangsamen. Anfang September forderten OpenAI und Anthropic vom US-Kongress, rasch verbindliche Regelungen für KI-Anwendungen zu verabschieden.

Michael Noetel von der AI Risk Initiative hält den Vorstoß für richtig. Und auch US-Politiker von Demokraten und Republikanern verlangen klare Regeln für die Entwicklung und den Einsatz von KI-Systemen. Der republikanische Senator Cruz aus Texas verwies auf „katastrophale Risiken“ der KI und ‌auf Gesetzesvorhaben zur Regulierung.

Die US-Regierung lehnt bislang eine weltweite Regulierung der KI, die Innovationen ausbremsen könnte, jedoch ab. Doch die Hacking-Fähigkeiten der modernsten KI-Modelle haben Washington offenbar zum Nachdenken gebracht. Die Veröffentlichung der jüngsten Versionen der KI von Anthropic und OpenAI wurden aus Gründen der nationalen Sicherheit verschoben. US-Präsident Donald Trump erklärte dennoch: „Wir wollen sie nicht einschränken, wenn wir dadurch plötzlich hinter China zurückfallen.“