Forschung
UNO-Experten fordern strengere Sicherheitsregeln für KI - ähnlich wie bei Atomkraftwerken

Ein Expertengremium der Vereinten Nationen hat schärfere Sicherheitsregeln für Künstliche Intelligenz gefordert. Vor allem für die so genannten KI-Agenten brauche es bessere Schutzvorkehrungen - ähnlich wie in der Luftfahrt oder bei Atomkraftwerken, heißt es.

    Ein Entwickler arbeitet mit Agenten bei einem niederländischen KI-Unternehmen.
    Ein Entwickler in einem niederländischen KI-Unternehmen (picture alliance / ANP)
    Konkret fordert das wissenschaftliche Gremium, die Möglichkeiten von KI-Systemen zu beschränken, alle Aktivitäten zu dokumentieren und zu überwachen.
    Mehrere Anbieter von Künstlicher Intelligenz haben die Politik aufgefordert, neue Regeln für die KI-Entwicklung zu erlassen. Einzelne Experten warnten, die Technologie könne aufgrund der rasanten Weiterentwicklung zu einer Bedrohung werden und sogar zur Auslöschung der Menschheit führen. US-Präsident Trump kündigte die Einrichtung einer KI-Aufsichtskommission an. Er betonte aber zugleich, dass die Branche in keiner Weise eingeschränkt werde.
    Diese Nachricht wurde am 23.09.2026 im Programm Deutschlandfunk gesendet.