Forschung
Untersuchung: Nicht jeder KI-Einsatz in Publikationen ist erkenntlich

KI-Programme werden auch bei der Erstellung wissenschaftlicher Publikationen eingesetzt - aber nicht immer entsprechend gekennzeichnet. Das hat ein Forscher der Universität Kattowitz ermittelt. Er prüfte mit einem Computerprogramm rund zwei Millionen Studien auf Textfragmente von KI-Modellen.

    Das Logo von Deepseek und ChatGPT auf einem Smartphone
    Deepseek und ChatGPT sind zwei textgenerierende KI-Programme. (picture alliance / ASSOCIATED PRESS / Andy Wong)
    Bei den Fragmenten handelte es sich um bestimmte Phrasen, die automatisch generiert, aber nicht gelöscht wurden. Als Beispiel wurde der Satz "Gerne, hier ist der geänderte Absatz" genannt, der von einem Textprogramm zum Ende eines erstellten Absatzes automatisch generiert wurde. Durch die Prüfung auf solche Textfragmente kann der Einsatz von KI nachgewiesen werden.
    Der polnische Forscher erklärte in seinem Bericht, dass in etwa 1.400 untersuchten Studien nicht auf die Anwendung von KI-Programmen hingewiesen wurde, obwohl diese nachgewiesen werden konnte. Dies betraf vor allem die Bereiche Medizin, Computer- und Ingenieurwissenschaften. Der Forscher sieht darin einen drohenden Vertrauensverlust in die Wissenschaft und fordert Verlage auf, wissenschaftliche Publikationen besser zu prüfen.
    Diese Nachricht wurde am 17.02.2025 im Programm Deutschlandfunk gesendet.