Technischer Fortschritt
UNESCO warnt vor KI-generierten Geschichtsfälschungen im Internet in den Sozialen Medien

Die UNO warnt vor neuen Methoden zur Geschichtsfälschung wie etwa einer Holocaust-Leugnung.

19.06.2024
    Die Fotomontage zeigt ein künstliches Auge mit Binärcode auf einer Computerplatine liegend. Zudem sind die Buchstaben KI und AI zu sehen.
    Künstliche Intelligenz bringt Chancen und Gefahren mit sich. (picture alliance / CHROMORANGE / Christian Ohde)
    Künstliche Intelligenz könnte nach Einschätzung der Kulturorganisation der Vereinten Nationen dazu genutzt werden, unwahre Darstellungen zu erzeugen und zu verbreiten. Die UNESCO legte heute einen Bericht dazu vor. Er wurde zusammen mit dem Jüdischen Weltkongress erarbeitet. KI versetze Menschen inzwischen in die Lage, Zeugenaussagen oder historische Aufzeichnungen zu verfälschen, heißt es. Besonders auf Jugendliche wirkten automatisiert erzeugte Bilder und Audioinhalte mitunter überzeugend. In den Sozialen Medien könnten ihnen solche Fälschungen jederzeit auch zufällig, sprich ungewollt begegnen.
    Nicht immer steckt Absicht hinter den Fälschungen, erklärt die UNESCO. Programme wie ChatGPT stützen sich auf Daten aus dem Internet. Diese Daten enthalten mitunter irreführende Inhalte sowie menschliche Voreingenommenheit. Durch die Nutzung und Weiterverbreitung solche Daten können Vorurteile verstärkt werden. Generative KI-Modelle neigen außerdem dazu, Ereignisse und sogar historische Phänomene zu erfinden, wenn sie keinen Zugang zu ausreichenden Daten hätten.

    Mangelnde Überwachung

    Um dem Problem vorzubeugen, müssen nach Ansicht der UNO-Organisation ethische Grundsätze zur KI-Anwendung international durchgesetzt werden. Aufgrund mangelnder Überwachung und Moderation durch KI-Entwickler ließen sich die Computerprogramme zum Beispiel auch mit Daten von Internetseiten der Holocaustleugner-Szene trainieren.
    UNESCO-Generaldirektorin Azoulay führte aus: "Wenn wir zulassen, dass die schrecklichen Fakten des Holocaust durch den unverantwortlichen Einsatz von KI verwässert, verzerrt oder verfälscht werden, riskieren wir die explosionsartige Ausbreitung von Antisemitismus und die allmähliche Verschlechterung unseres Verständnisses für die Ursachen und Folgen dieser Gräueltaten."
    Weiter Informationen zu den Methoden und zum Erkennen der Fälschungen bietet das BSI.
    Diese Nachricht wurde am 19.06.2024 im Programm Deutschlandfunk gesendet.