Nytt verktøy avslører titusener av falske kreftstudier

Har du lest om en fantastisk kreftgjennomombrudd, bare for å oppdage at forskningen senere ble tilbakekalt eller motbevist? Det viser seg at dette skjer oftere enn noen av oss har skjønt – og nå har forskere utviklet et smart verktøy for å fange bakmennene før de gjør skikkelig skade.

Et søppelpostfilter for vitenskap

Et team ledet av professor Adrian Barnett ved Queensland University of Technology har trent et KI-system til å analysere hele 2,6 millioner kreftforskningsartikler publisert mellom 1999 og 2024. Målet? Finne studier som mistenkelig lignet på produkter fra såkalte «papirmøller» – selskaper som i bunn og grunn produserer falsk eller dårlig forskning for salg.

«Papirmøller er selskaper som selger falske eller dårlige vitenskapelige studier,» forklarte professor Barnett. «De produserer 'forskning' i industriell skala, og funnene våre tyder på at problemet innen kreftforskning er langt større enn de fleste hadde forventet.»

Systemet de bygde er ganske genialt. Det er i bunn og grunn et søppelpostfilter for vitenskapelige artikler. KI-en – basert på språkmodellen BERT – ble trent til å gjenkjenne de tekstlige avtrykkene som stadig dukker opp i kjent svindelforskning: gjenbrukt tekst, awkward formuleringer som tyder på at forfatterne ikke er morsmålsbrukere av engelsk (eller i det hele tatt vitenskapsfolk), og mønstre som tyder på at arbeidet ble produsert ved hjelp av maler.

Da systemet ble testet mot kjente falske artikler, fanget det mistenkelig arbeid 91 prosent av gangene. Det er bemerkelsesverdig nøyaktig for noe designet for å avsløre akademisk svindel.

Tallene er urovekkende

Her blir det virkelig bekymringsfullt. Forskerne fant at over 250 000 artikler inneholdt disse mistenkelige mønstrene – men trenden over tid er det som virkelig holder meg våken om natten.

Tidlig på 2000-tallet viste bare rundt én prosent av publisert kreftforskning disse røde flaggene. I 2022 hadde det tallet steget til over 16 prosent. Én av seks! Det er ikke et lite problem som gjemmer seg i vitenskapens hjørner – det er en flom.

De falske artiklene var heller ikke tilfeldig spredt. De klumpet seg sammen i visse områder: molekylær kreftbiologi, tidligfase laboratorieforskning, og spesifikke krefttyper deriblant mage-, lever-, bein- og lungekreft. Om det er fordi disse feltene er mer lønnsomme mål for papirmøller eller bare enklere å forfalske, er verdt å tenke over.

Hvorfor bør du bry deg?

Du tenker kanskje: «Greit, men jeg er ikke vitenskapsmann. Hvorfor påvirker dette meg?»

Her er hvorfor: når forskere bygger videre på tidligere funn for å utvikle nye behandlinger, stoler de på den eksisterende kunnskapsmassen. Hvis denne kunnskapsmassen inneholder hundretusener av fabricerte studier, kan ekte forskere kaste bort år på å forfølge blindspor. Kliniske studier kan bli designet rundt falske antakelser. Legemiddelutvikling kan gå i feil retning.

«Kreftforskning påvirker kliniske studier, legemiddelutvikling og pasientbehandling,» sa professor Barnett. «Hvis fabricerte studier blir en del av kunnskapsgrunnlaget, kan de villede ekte forskere og til syvende og sist bremse fremskritt for pasientene.»

Tenk på det slik: hver falske artikkel som blir publisert er ikke bare bortkastet tid – den trekker aktivt ressurser bort fra legitim forskning og potensielt feilretter hele feltet.

Den gode nyheten (jo, det finnes en)

Tre vitenskapelige tidsskrifter tester allerede KI-verktøyet for å hjelpe redaktører med å screene manuskripter før de sendes til fagfellevurdering. Det er en stor seier fordi fagfellevurdering, selv om den er essensiell, ikke er feilfri – anmeldere jobber ofte med begrenset tid og kan ikke alltid avsløre sofistikert svindel.

Forskerne planlegger også å tilpasse systemet for andre vitenskapelige felt enn kreftforskning. Og de forventer at det blir enda bedre etter hvert som flere bekreftede eksempler på papirmølleaktivitet blir tilgjengelige for opplæring.

Men her er den viktige advarselen: systemet flagger mistenkelige artikler, det beviser ikke svindel definitivt. Disse merkede studiene trenger fremdeles menneskelige eksperter til å undersøke og fatte endelige avgjørelser. Det er et verktøy for å prioritere hvilke artikler som trenger nærmere gransking, ikke en automatisert henrettelsesmaskin.

En større samtale

Hele denne situasjonen reiser noen ubehagelige spørsmål om hvordan vitenskapelig publisering fungerer. Presset for å publisere – «publish or perish» som de sier i akademia – skaper insentiver som tydeligvis noen utnytter på dypt uetiske måter.

Papirmøller eksisterer fordi det er etterspørsel etter forfatterskapsposisjoner og fordi systemet ikke har vært spesielt flinke til å fange dem. Frem til nå, i alle fall.

Jeg tror ikke dette betyr at vi skal mistro all vitenskapelig forskning – langt ifra. De fleste forskere gjør ærlig, grundig arbeid. Men det betyr at vi bør være ettertengksomme når vi tolker enkelte studier og innse at den vitenskapelige prosessen, selv om den er selvkorrigerende, ikke er øyeblikkelig.

Faktum at forskere utviklet dette verktøyet og publiserte funnene sine åpent, er faktisk et tegn på systemets helse. Forskere som fanger og avslører svindel i sitt eget miljø? Det er vitenskap som fungerer som det skal.

Men det er også en påminnelse om at bak hver «gjennombrudd» er det ekte mennesker som gjør ekte arbeid – og vi skylder dem å sørge for at feltet ikke blir forurenset av fabrikkprodusert nonsens.

Hva tenker du? Forandrer dette hvordan du ser på vitenskapsnyheter? Jeg vil gjerne høre tankene dine – skriv en kommentar under.

Kilde: ScienceDaily — AI flags more than 250,000 suspicious cancer research papers (sciencedaily.com)