Künstliche Intelligenz könnte nach Einschätzung der Kulturorganisation der Vereinten Nationen dazu genutzt werden, unwahre Darstellungen zu erzeugen und zu verbreiten. Die UNESCO legte heute einen Bericht dazu vor. Er wurde zusammen mit dem Jüdischen Weltkongress erarbeitet. KI versetze Menschen inzwischen in die Lage, Zeugenaussagen oder historische Aufzeichnungen zu verfälschen, heißt es. Besonders auf Jugendliche wirkten automatisiert erzeugte Bilder und Audioinhalte mitunter überzeugend. In den Sozialen Medien könnten ihnen solche Fälschungen jederzeit auch zufällig, sprich ungewollt begegnen.

Nicht immer steckt Absicht hinter den Fälschungen, erklärt die UNESCO. Programme wie ChatGPT stützen sich auf Daten aus dem Internet. Diese Daten enthalten mitunter irreführende Inhalte sowie menschliche Voreingenommenheit. Durch die Nutzung und Weiterverbreitung solche Daten können Vorurteile verstärkt werden. Generative KI-Modelle neigen außerdem dazu, Ereignisse und sogar historische Phänomene zu erfinden, wenn sie keinen Zugang zu ausreichenden Daten hätten.

Um dem Problem vorzubeugen, müssen nach Ansicht der UNO-Organisation ethische Grundsätze zur KI-Anwendung international durchgesetzt werden. Aufgrund mangelnder Überwachung und Moderation durch KI-Entwickler ließen sich die Computerprogramme zum Beispiel auch mit Daten von Internetseiten der Holocaustleugner-Szene trainieren.

UNESCO-Generaldirektorin Azoulay führte aus: "Wenn wir zulassen, dass die schrecklichen Fakten des Holocaust durch den unverantwortlichen Einsatz von KI verwässert, verzerrt oder verfälscht werden, riskieren wir die explosionsartige Ausbreitung von Antisemitismus und die allmähliche Verschlechterung unseres Verständnisses für die Ursachen und Folgen dieser Gräueltaten."