Fake-Studien mithilfe von KI
Der Kampf um die Integrität der Forschung

Das wissenschaftliche Publizieren sieht sich mit einer großen Gefahr konfrontiert. Eine große Anzahl mithilfe von Künstlicher Intelligenz erstellte wissenschaftliche Fachartikel verdienen diese Bezeichnung nicht, denn sie sind nichts weiter als Fake.

Die Gründe für die Schwemme liegen unter anderem in der Art und Weise, wie der Wissenschaftsbetrieb funktioniert – und darin, dass man mit Fake-Studien Geld verdienen kann.

Fälle von Betrug in wissenschaftlichen Publikationen hat es schon immer gegeben. Doch das seien ehemals Einzelfälle gewesen, sagt der Hirnforscher Bernhard Sabel, der auch zu Fake-Publikationen in der Wissenschaft forscht. Mittlerweile habe die Produktion von Falschinformationen ein industrielles Ausmaß angenommen. Nach Sabels Untersuchungen gibt es in der Wissenschaftsliteratur um die 300.000 Fake-Arbeiten pro Jahr.

Dabei kann die Künstliche Intelligenz auch komplett in die Irre führen. Bei der Erstellung medizinischer Studien beispielsweise sucht die KI in den Gesundheitsdaten von Menschen nach Faktoren, die in irgendwelchen statistischen Zusammenhängen stehen, auch wenn diese sinnlos sind - und produziert dann einen Artikel, berichtet Matt Spick, Redakteur der Fachzeitschrift Scientific Reports. Die Zahl entsprechender Veröffentlichungen mit schwacher statistischer Grundlage sei in nur zwei Jahren exponentiell gestiegen.

Die Molekularbiologin Renee Hoch vom Fachverlag PLOS beobachtet wiederum mit ihrem Team einen sprunghaften Anstieg von bestimmten Studientypen, die ohne Erhebung neuer Daten auskommen.

Hoch vermutet hinter der Flut an minderwertigen Studien sogenannte Paper Mills. Das sind Unternehmen, die für zahlende Kunden Artikel fabrizieren, die keinen wissenschaftlichen Mehrwert haben. 

Die Paper Mills verkaufen auf KI basierende Texte an unter Erfolgsdruck stehende Autoren, sagt Sabel. Das Modell funktioniere, weil die Zahl der Veröffentlichungen für Wissenschaftlerinnen und Wissenschaftler ein wichtiger Karrierefaktor sei, erklärt Hoch. 

Das dahinterliegende Prinzip nennt sich “Publish or perish” (“Veröffentliche oder geh’ unter”): Wer viel veröffentlicht, wird in der wissenschaftlichen Community besser bzw. überhaupt wahrgenommen.

Fake-Publikationen sind Sabel zufolge ein sehr profitables Geschäft - nicht nur für die Paper Mills, sondern indirekt auch für manche Verlage, die durchaus wüssten, dass es sich um Fakes handelt. 

Die fließbandartige Produktion unnützer Studien könnte schwerwiegende Folgen haben. Wissenschaftliche Experimente und Untersuchungen bauen auf vorhandenem Wissen, also auch auf vorherigen Publikationen auf.

Wenn diese Publikationen nun aber falsche Zusammenhänge herstellen oder andere Fehler beinhalten, führe das zu falschen Annahmen und zur Planung falscher Experimente, die viel Geld kosteten und bei denen nichts herauskomme, sagt Sabel. 

Der Hirnforscher warnt nicht nur vor den wissenschaftlichen, sondern auch vor den gesellschaftlichen Risiken: falsche Entscheidungen in Gesundheitsfragen, nicht erkannte Erkrankungen, technologische und wirtschaftliche Probleme, weil auch dort Entscheidungen auf der Grundlage wissenschaftlicher Erkenntnisse getroffen werden. Schaden nähmen zudem die ehrlichen Autoren und allgemein die Wissenschaft, weil das Vertrauen in sie untergraben werde.

Beim PLOS-Verlag sind inzwischen Maßnahmen getroffen worden, um die Fake-Publikationen zu identifizieren. Mit bestimmten Kriterien werden Manuskripte herausgefiltert, die es nicht wert seien, von Experten begutachtet zu werden, sagt Teamleiterin Hoch. Doch die KI-Werkzeuge der Betrüger werden immer besser. 

Helfen würde Experten zufolge eine Abkehr von “Publish or perish”. Das System setze auf Quantität, benötigt werde jedoch mehr Klasse statt mehr Masse, sagt Sabel. 

Zur Vermeidung oder Reduktion der Fake-Artikel seien außerdem unabhängige Kontrollmechanismen nötig, meint der Forscher. Denn es sei nicht klar, wie gut die Verlage dagegen vorgingen. Schließlich befänden sie sich in einem Interessenskonflikt. Zu guter Letzt müsse der Schutz der wissenschaftlichen Integrität in einen globalen gesetzlichen Rahmen gefasst werden. 

Doch Sabel rechnet nicht mit einer schnellen Lösung des Problems. Es gehe eher darum, einen Einstellungswandel einzuleiten. Weil Wissenschaft ein öffentliches Gut sei, müsse sie auch wissenschaftlich kontrolliert und dürfe nicht den Gesetzmäßigkeiten eines kommerziellen Verlagswesens unterworfen werden. Immerhin knapp die Hälfte der wissenschaftlichen Arbeiten werde in nichtkommerziellen Verlagen veröffentlicht, diese Zahl gelte es zu erhöhen. Dann sei man auf einem guten Weg. 

Radiobeiträge: Ralf Krauter, Anneke Meyer / Onlinetext: Rade Janjusevic