Die Schattenseite der Forschung: Wie KI gefälschte Krebsstudien entlarvt
Wer kennt das nicht? Eine Schlagzeile verspricht einen Durchbruch gegen Krebs. Monate später stellt sich heraus: Die Studie war unseriös oder wurde sogar zurückgezogen. Was viele nicht wissen: Dieses Phänomen ist deutlich verbreiteter als angenommen – und jetzt gibt es endlich ein Werkzeug, um die Übeltäter zu stoppen.
Ein Spam-Filter für die Wissenschaft
Professor Adrian Barnett von der Queensland University of Technology hat gemeinsam mit seinem Team einen KI-Algorithmus entwickelt, der es in sich hat. Das System hat sage und schreibe 2,6 Millionen Krebsstudien aus den Jahren 1999 bis 2024 unter die Lupe genommen. Das Ziel: Veröffentlichungen aufspüren, die verdächtig nach Produkten sogenannter „Paper Mills" aussehen – Firmen also, die gefälschte oder minderwertige Forschungsergebnisse zum Verkauf produzieren.
„Paper Mills sind Unternehmen, die gefälschte oder minderwertige wissenschaftliche Studien verkaufen", erklärt Professor Barnett. „Sie produzieren 'Forschung' im industriellen Maßstab, und unsere Ergebnisse zeigen, dass das Problem in der Krebsforschung viel größer ist, als die meisten Menschen ahnen."
Das Prinzip dahinter ist clever. Im Grunde handelt es sich um einen Spam-Filter für wissenschaftliche Arbeiten. Die KI – basierend auf dem Sprachmodell BERT – wurde darauf trainiert, typische Textfingerabdrücke zu erkennen, die immer wieder in bekannten betrügerischen Studien auftauchen: wiederverwendete Textpassagen, holprige Formulierungen, die darauf hindeuten, dass die Autoren keine Muttersprachler oder sogar Wissenschaftler sind, sowie Muster, die auf eine Produktion mittels Schablonen hindeuten.
Getestet anhand bekannter Fake-Papers: Das System hat 91 Prozent der verdächtigen Arbeiten erkannt. Für ein Tool zur Aufdeckung akademischen Betrugs ist das ein beachtlicher Wert.
Die Zahlen machen Sorge
Aber jetzt kommt der wirklich beunruhigende Teil. Die Forscher fanden über 250.000 Studien mit verdächtigen Mustern – und der zeitliche Trend ist das, was mir wirklich den Schlaf raubt.
Anfang der 2000er Jahre wiesen nur etwa ein Prozent der veröffentlichten Krebsforschung solche Warnsignale auf. Bis 2022 stieg dieser Anteil auf über 16 Prozent. Jede sechste Studie! Das ist kein kleines Problem, das sich in irgendeiner Ecke der Wissenschaft versteckt – das ist eine regelrechte Flut.
Die gefälschten Arbeiten tauchten auch nicht zufällig auf. Sie häuften sich in bestimmten Bereichen: Molekulare Krebsbiologie, frühe Laborforschung und bestimmte Krebsarten wie Magen-, Leber-, Knochen- und Lungenkrebs. Ob das daran liegt, dass diese Felder lukrativer für Paper Mills sind oder sich einfacher fälschen lassen – darüber lohnt es sich nachzudenken.
Warum sollte mich das interessieren?
Vielleicht denkst du: „Schön und gut, aber ich bin doch kein Wissenschaftler. Was geht mich das an?"
Hier ist der Grund: Wenn Forscher auf früheren Erkenntnissen aufbauen, um neue Behandlungen zu entwickeln, verlassen sie sich auf das bestehende Forschungsfundament. Enthält dieses Fundament Hunderttausende erfundener Studien, können echte Wissenschaftler Jahre damit vergeuden, Sackgassen zu verfolgen. Klinische Studien könnten auf falschen Annahmen basieren. Die Medikamentenentwicklung könnte in die völlig falsche Richtung marschieren.
Barnett betont: „Krebsforschung beeinflusst klinische Studien, Medikamentenentwicklung und Patientenversorgung. Wenn fabrizierte Studien in die Wissensbasis gelangen, können sie echte Wissenschaftler in die Irre führen und letztlich den Fortschritt für Patienten verlangsamen."
Jede gefälschte Veröffentlichung, die es in die Fachwelt schafft, ist also nicht nur verschwendete Zeit – sie lenkt aktiv Ressourcen von seriöser Forschung ab und kann ein ganzes Feld in die falsche Richtung lenken.
Die gute Nachricht (ja, es gibt eine)
Drei wissenschaftliche Zeitschriften testen das KI-Tool bereits, um Manuskripte zu prüfen, bevor sie ins Peer-Review gehen. Das ist ein wichtiger Schritt, denn das Peer-Review-Verfahren – so unverzichtbar es auch ist – ist nicht unfehlbar. Gutachter arbeiten oft unter Zeitdruck und können nicht immer raffinierten Betrug erkennen.
Das Team plant außerdem, das System auf andere wissenschaftliche Bereiche außerhalb der Krebsforschung anzupassen. Und es wird mit der Zeit vermutlich noch besser werden, je mehr bestätigte Beispiele für Paper-Mill-Aktivitäten als Trainingsdaten zur Verfügung stehen.
Hier ein wichtiger Vorbehalt: Das System markiert verdächtige Studien – beweisen kann es den Betrug nicht endgültig. Diese markierten Arbeiten müssen weiterhin von menschlichen Experten untersucht werden. Es geht also nicht um eine automatisierte Verurteilung, sondern darum, welche Studien genauer unter die Lupe genommen werden sollten.
Eine größere Debatte
Das Ganze wirft unbequeme Fragen auf – über das System der wissenschaftlichen Veröffentlichung an sich. Der Druck zu publizieren – „publish or perish", wie es im akademischen Jargon heißt – schafft Anreize, die manche auf zutiefst unethische Weise ausnutzen.
Paper Mills existieren, weil es eine Nachfrage nach Autorschaften gibt und weil das System lange Zeit nicht gut darin war, sie zu erkennen. Bis jetzt.
Ich denke nicht, dass wir deswegen der gesamten wissenschaftlichen Forschung misstrauen sollten – ganz im Gegenteil. Die meisten Wissenschaftler leisten ehrliche, sorgfältige Arbeit. Aber es bedeutet, dass wir vorsichtiger sein sollten, wie wir einzelne Studien interpretieren, und anerkennen, dass der wissenschaftliche Prozess – so selbstkorrigierend er auch ist – nicht über Nacht funktioniert.
Dass Forscher dieses Tool entwickelt und ihre Ergebnisse offen veröffentlicht haben, ist eigentlich ein Zeichen für die Gesundheit des Systems. Wissenschaftler, die Betrug innerhalb ihrer eigenen Gemeinschaft aufdecken und aufdecken? Das ist Wissenschaft, wie sie funktionieren sollte.
Aber es ist auch eine Erinnerung daran, dass hinter jedem „Durchbruch" echte Menschen stehen, die echte Arbeit leisten – und wir schulden es ihnen, dafür zu sorgen, dass ihr Feld nicht von industriell gefertigtem Unsinn verseucht wird.