L'IA che scova i furbi della ricerca sul cancro

Ti è mai capitato di leggere un titolo roboante su una cura rivoluzionaria contro il cancro, per poi scoprire che lo studio era stato ritirato o smascherato come bufala? Ecco, probabilmente succede molto più spesso di quanto immagini. E adesso un gruppo di ricercatori ha creato uno strumento intelligente per stanare i colpevoli prima che facciano danni seri.

Un filtro anti-spam per la scienza

Il professor Adrian Barnett della Queensland University of Technology ha guidato un team che ha addestrato un sistema di intelligenza artificiale su 2,6 milioni di articoli sul cancro pubblicati tra il 1999 e il 2024. L'obiettivo? Individuare studi che puzavano di cosiddetti "paper mills", ovvero aziende che sfornano ricerche false o scadenti da vendere al miglior offerente.

"I paper mill sono società che vendono studi scientifici falsi o di pessima qualità", ha chiarito il professor Barnett. "Producono 'ricerca' su scala industriale, e i nostri risultati suggeriscono che il problema nella ricerca oncologica è molto più grande di quanto chiunque immaginasse."

Il sistema è davvero elegante. Funziona come un filtro anti-spam per articoli scientifici. L'IA, basata su un modello linguistico chiamato BERT, è stata addestrata a riconoscere le "impronte digitali" che compaiono continuamente negli studi fraudolenti: testi riciclati, frasi goffe che tradiscono autori non madrelingua inglese (o che non sono scienziati per niente), e schemi che suggeriscono lavoro fatto con i template.

Quando testato su paper falsi già identificati, il sistema ha beccato il 91% del materiale sospetto. Un accuratezza impressionante per uno strumento cheDetection di truffe accademiche.

Numeri che fanno paura

E qui viene il bello — o meglio, il brutto. I ricercatori hanno trovato oltre 250.000 articoli con questi schemi sospetti. Ma è l'andamento nel tempo che mi tiene sveglio la notte.

All'inizio degli anni 2000, solo l'1% della ricerca sul cancro pubblicata mostrava questi campanelli d'allarme. Nel 2022, siamo arrivati oltre il 16%. Uno su sei! Non è un problemino nascosto negli angoli bui della scienza — è un'inondazione.

E non erano distribuiti a caso. Si concentravano in aree precise: biologia molecolare del cancro, ricerca di laboratorio in fase iniziale, e alcuni tipi specifici di tumori — stomaco, fegato, ossa, polmone. Se questo dipende dal fatto che quei campi sono più redditizi per i paper mill o semplicemente più facili da falsificare, è una domanda da approfondire.

Perché dovrebbe interessarti?

Potresti pensare: "Bene, ma io non sono uno scienziato. Che me ne importa?"

Ecco perché: quando i ricercatori costruiscono nuove terapie sui risultati precedenti, si basano sul corpo esistente di evidenze. Se dentro quel corpus ci sono centinaia di migliaia di studi inventati, gli scienziati onesti possono sprecare anni inseguendo vicoli ciechi. Gli trial clinici potrebbero essere progettati su assunzioni sbagliate. Lo sviluppo di farmaci potrebbe andare nella direzione sbagliata.

"La ricerca sul cancro influenza i trial clinici, lo sviluppo di farmaci e le cure dei pazienti", ha detto il professor Barnett. "Se studi fabbricati entrano nella base di evidenze, possono fuorviare gli scienziati e alla fine rallentare i progressi per i malati."

Ragioniamoci: ogni articolo falso pubblicato non è solo tempo sprecato — ruba risorse alla ricerca legittima e potenzialmente trascina tutto il campo nella direzione sbagliata.

La buona notizia (sì, esiste)

Tre riviste scientifiche stanno già testando lo strumento AI per aiutare gli editori a vagliare i manoscritti prima di inviarli alla peer review. È un passo importante perché la revisione tra pari, pur essendo fondamentale, non è infallibile — i revisori lavorano con tempi stretti e non sempre riescono a beccare frodi sofisticate.

Il team conta di adattare il sistema anche ad altri campi della ricerca scientifica. E si aspettano che diventi sempre più preciso man mano che emergono nuovi esempi confermati di attività dei paper mill.

Ma c'è un caveat importante: il sistema segnala articoli sospetti, non dimostra la frode in modo definitivo. Quegli studi segnalati hanno ancora bisogno di esperti umani che indaghino e diano un giudizio finale. È uno strumento per dare priorità a quali paper meritano un esame più attento, non un boia automatico.

Una conversazione più grande

Tutta questa situazione solleva domande scomode su come funziona la pubblicazione scientifica. La pressione a pubblicare — "publish or perish", come dicono in academia — crea incentivi che alcune persone sfruttano in modi profondamente non etici.

I paper mill esistono perché c'è domanda di posizioni autoriali e perché il sistema non è stato bravo a beccarli. Fino ad ora, almeno.

Non credo che questo significhi che dovremmo diffidare di tutta la ricerca scientifica — niente affatto. La maggior parte degli scienziati fa un lavoro onesto e rigoroso. Ma significa che dovremmo essere più riflessivi su come interpretiamo i singoli studi, e riconoscere che il processo scientifico, pur essendo auto-correttivo, non è istantaneo.

Il fatto che questi ricercatori abbiano sviluppato lo strumento e pubblicato i risultati apertamente è in realtà un segno di salute del sistema. Scienziati che beccano e smascherano le frodi nella propria comunità? Questa è scienza che funziona come dovrebbe.

Ma è anche un promemoria che dietro ogni "scoperta rivoluzionaria" ci sono persone reali che fanno lavoro reale — e abbiamo il dovere di assicurarci che il campo non sia inquinato da robaccia prodotta in serie.

Tu cosa pensi? Questo cambia il modo in cui guardi le notizie scientifiche? Fammi sapere nei commenti.

Fonte: ScienceDaily — AI flags more than 250,000 suspicious cancer research papers