Ny AI opdager hundredtusindvis af falske kræftforskningsartikler

Har du nogensinde læst en overskrift om et fantastisk gennembrud i kræftforskning — bare for at finde ud af, at forskningen senere blev tilbagekaldt eller modbevist? Det viser sig, at det sker oftere, end vi troede. Og nu har forskere udviklet et smart værktøj til at fange skurkene, før de gør reel skade.

Spamfiltret til videnskaben

Et team ledet af professor Adrian Barnett fra Queensland University of Technology har trænet et AI-system til at analysere svimlende 2,6 millioner kræftforskningsartikler udgivet mellem 1999 og 2024. Deres mål? Finde studier, der lignede produkter fra såkaldte "papirmøller" — virksomheder, der i bund og grund fabrikkerer falsk eller middelmådig forskning til salg.

"Papirmøller er virksomheder, der sælger falske eller dårligt udførte videnskabelige studier," forklarer professor Barnett. "De producerer 'forskning' i industrielt tempo, og vores resultater viser, at problemet i kræftforskning er langt større, end de fleste havde forestillet sig."

Systemet de byggede, er ret genialt. Det fungerer i bund og grund som et spamfilter til videnskabelige artikler. AI'en — baseret på en sprogmodel kaldet BERT — blev trænet til at genkende de tekstlige fingeraftryk, der bliver ved med at dukke op i kendt svigagtig forskning: genbrugt tekst, akavet formuleringer der antyder, at forfatterne ikke er native engelsktalende (eller slet ikke er forskere), og mønstre der tyder på, at arbejdet er blevet masseret ud fra skabeloner.

Da systemet blev testet mod kendte falske artikler, fangede det mistænkeligt arbejde 91 procent af gangene. Det er bemærkelsesværdigt præcist for noget, der er designet til at opdage akademisk svindel.

Tallene er alarmerende

Her bliver det virkelig bekymrende. Forskerne fandt ud af, at over 250.000 artikler indeholdt disse mistænkelige mønstre — men tendensen over tid er det, der holder mig vågen om natten.

I begyndelsen af 2000-tallet viste kun omkring 1 procent af den publicerede kræftforskning disse røde flag. I 2022 var det tal steget til over 16 procent. Hver sjette! Det er ikke et lille problem, der gemmer sig i videnskabens hjørner — det er en syndflod.

De falske artikler var heller ikke tilfældigt spredt. De klumpede sig sammen i bestemte områder: molekylær kræftbiologi, tidlig laboratorieforskning og specifikke kræfttyper, herunder mave-, lever-, knogle- og lungekræft. Om det er fordi, de områder er mere profitable mål for papirmøller, eller bare nemmere at forfalske, er værd at tænke over.

Hvorfor skulle du bekymre dig?

Du tænker måske: "Okay, men jeg er ikke videnskabsmand. Hvad har det med mig at gøre?"

Her er hvorfor: når forskere bygger videre på tidligere resultater for at udvikle nye behandlinger, stoler de på den eksisterende videnbase. Hvis den viden base indeholder hundredtusindvis af fabricerede studier, kan rigtige forskere spilde år på at forfølge blinde veje. Kliniske forsøg kan blive designet på grundlag af forkerte antagelser. Lægemiddeludvikling kan bevæge sig ned ad den forkerte vej.

"Kræftforskning påvirker kliniske forsøg, lægemiddeludvikling og patientbehandling," sagde professor Barnett. "Hvis fabricerede studier finder vej ind i vidensgrundlaget, kan de vildlede rigtige forskere og i sidste ende forsinke fremskridt for patienterne."

Tænk over det på denne måde: hver eneste falske artikel, der bliver udgivet, er ikke bare spild af tid — den trækker aktivt ressourcer væk fra legitim forskning og kan potentielt vildlede hele feltet.

Den gode nyhed (jo, der er en)

Tre videnskabelige tidsskrifter tester allerede AI-værktøjet til at hjælpe redaktører med at screene manuskripter, før de sendes til peer review. Det er en stor ting, fordi peer review — selvom det er essentielt — ikke er fejlsikkert. Anmeldere arbejder ofte med begrænset tid og kan ikke altid opdage sofistikeret svindel.

Forskerne planlægger også at tilpasse systemet til andre videnskabelige felter ud over kræftforskning. Og de forventer, at det bliver endnu bedre, efterhånden som flere bekræftede eksempler på papirmølle-aktivitet bliver tilgængelige til træning.

Men her er den vigtige advarsel: systemet markerer mistænkelige artikler, det beviser ikke definitivt svindel. De markerede studier skal stadig undersøges af menneskelige eksperter, der kan træffe endelige afgørelser. Det er et værktøj til at prioritere, hvilke artikler der har brug for nærmere granskning — ikke en automatiseret bøddel.

En større samtale

Hele denne situation rejser nogle ubehagelige spørgsmål om, hvordan videnskabelig publicering fungerer. Presset for at publicere — "publicer eller forsvind" som de siger i akademia — skaber incitamenter, som nogle tilsyneladende udnytter på dybt uetiske måder.

Papirmøller eksisterer, fordi der er efterspørgsel efter forfatterskaber, og fordi systemet ikke har været særligt godt til at fange dem. Indtil nu, i hvert fald.

Jeg tror ikke, det betyder, vi skal mistro al videnskabelig forskning — langt fra. De fleste forskere laver ærligt, grundigt arbejde. Men det betyder, vi bør være tankefulde om, hvordan vi fortolker enkelte studier, og erkende, at den videnskabelige proces — selvom den er selvkorrigerende — ikke er øjeblikkelig.

Det faktum, at forskere udviklede dette værktøj og offentliggjorde deres resultater åbent, er faktisk et tegn på systemets sundhed. Forskere, der fanger og afslører svindel inden for deres eget fællesskab? Det er videnskab, der virker, som det skal.

Men det er også en påmindelse om, at bag hvert "gennembrud" er der rigtige mennesker, der laver rigtigt arbejde — og vi skylder dem at sikre, at feltet ikke bliver forurenet af fabriksproduceret nonsens.

Hvad tænker du? Ændrer det, hvordan du ser videnskabelige nyheder? Jeg vil meget gerne høre dine tanker — skriv en kommentar nedenfor.

Kilde: ScienceDaily — AI flags more than 250,000 suspicious cancer research papers (sciencedaily.com)