Zanim uwierzysz w kolejny przełom w leczeniu raka — przeczytaj to

Widziałeś kiedyś nagłówek o rewolucyjnej metodzie leczenia nowotworów, żeby potem dowiedzieć się, że badania były sfabrykowane albo wycofane? Okazuje się, że takie sytuacje zdarzają się znacznie częściej, niż mogłoby się nam wydawać. Na szczęście naukowcy właśnie znaleźli sposób, jak wyłapywać takie oszustwa, zanim zdążą wyrządzić prawdziwe szkody.

Sortownia spamu dla nauki

Profesor Adrian Barnett z Queensland University of Technology wraz z zespołem stworzył system sztucznej inteligencji, który przeanalizował ponad 2,6 miliona prac badawczych dotyczących nowotworów z lat 1999–2024. Cel? Wykrycie publikacji, które wyglądają podejrzanie jak produkty tak zwanych „paper mills" — firm produkujących na masową skalę fałszywe lub marnej jakości badania na sprzedaż.

„Paper mills to przedsiębiorstwa handlujące sfałszowanymi lub niskiej jakości badaniami naukowymi" — tłumaczy profesor Barnett. „Wytwarzają 'badania' na skalę przemysłową, a nasze wyniki pokazują, że problem w nauce o nowotworach jest o wiele większy, niż większość ludzi sobie wyobrażała."

System, który zbudowali, jest naprawdę pomysłowy. Działa mniej więcej jak filtr antyspamowy, ale dla publikacji naukowych. Sztuczna inteligencja — oparta na modelu językowym BERT — nauczyła się rozpoznawać charakterystyczne ślady wskazujące na oszustwo: powtórzony tekst, niezgrabne sformułowania sugerujące, że autorzy nie są native speakerami angielskiego lub w ogóle nie są naukowcami, a także schematy wskazujące na tworzenie tekstów na podstawie szablonów.

Kiedy przetestowano go na znanych fałszywych pracach, system wykrył podejrzane publikacje w 91% przypadków. To imponująca skuteczność jak na narzędzie do wykrywania oszustw akademickich.

Liczby, które nie dają spać

A teraz robi się naprawdę niepokojąco. Naukowcy odkryli, że ponad 250 tysięcy prac zawierało te podejrzane wzorce — ale najbardziej niepokojący jest trend z biegiem czasu.

Na początku lat 2000. odsetek podejrzanych badań onkologicznych wynosił około 1%. W 2022 roku sięgnął już ponad 16%. Jeden na sześć! To nie drobny problem ukryty gdzieś na marginesie nauki — to powódź.

Fałszywe prace nie pojawiały się też losowo. Koncentrowały się w określonych dziedzinach: biologii molekularnej nowotworów, badaniach laboratoryjnych wczesnych etapów oraz w przypadku niektórych typów raka — żołądka, wątroby, kości i płuc. Czy to dlatego, że te obszary są bardziej opłacalnym celem dla fabryk publikacji, czy po prostu łatwiejszym do sfałszowania — warto się nad tym zastanowić.

Czemu to powinno cię obchodzić?

Możesz sobie myśleć: „OK, ale nie jestem naukowcem. Co mnie to obchodzi?"

A obchodzi cię, i to bardzo. Kiedy badacze budują nowe odkrycia na fundamencie wcześniejszych badań, polegają na istniejącym dorobku naukowym. Jeśli w tym dorobku znajduje się setki tysięcy sfabrykowanych prac, prawdziwi naukowcy mogą marnować lata na tropieniu ślepych uliczek. Próby kliniczne mogą być projektowane na podstawie fałszywych założeń, a rozwój leków może pójść w złym kierunku.

„Badania onkologiczne wpływają na próby kliniczne, rozwój leków i opiekę nad pacjentami" — mówi profesor Barnett. „Jeśli sfabrykowane badania przedostaną się do bazy dowodów, mogą wprowadzać w błąd prawdziwych naukowców i w efekcie spowalniać postępy w leczeniu pacjentów."

Pomyśl o tym w ten sposób: każda fałszywa publikacja, która ujrzy światło dzienne, to nie tylko strata czasu — aktywnie odciąga zasoby od uczciwych badań i potencjalnie kieruje całą dziedzinę na manowce.

Dobra wiadomość (tak, jest i taka)

Trzy czasopisma naukowe już testują to narzędzie, pomagając redaktorom przeglądać manuskrypty przed wysłaniem ich do recenzji. To spora sprawa, bo choć recenzja naukowa jest niezbędna, nie jest nieomylna — recenzenci często pracują z ograniczonym czasem i nie zawsze są w stanie wychwycić wyrafinowane oszustwa.

Naukowcy planują też dostosować system do innych dziedzin nauki poza onkologią. I spodziewają się, że będzie on coraz skuteczniejszy w miarę, jak będą pojawiać się kolejne potwierdzone przypadki działalności paper mills do trenowania algorytmu.

Jest jednak ważne zastrzeżenie: system oznacza podejrzane prace, ale nie dowodzi definitywnie oszustwa. Zaznaczone badania nadal wymagają analizy ekspertów-ludzi, którzy podejmą ostateczną decyzję. To narzędzie do ustalania priorytetów, które publikacje zasługują na dokładniejsze sprawdzenie — nie automatyczny wyrok.

Większa rozmowa

Cała ta sytuacja stawia przed nami niewygodne pytania o to, jak działa publikowanie nauki. Presja publikowania — „publikuj albo giń", jak mawiają na uczelniach — tworzy zachęty, które niektórzy wykorzystują w głęboko nieetyczny sposób.

Paper mills istnieją, bo jest popyt na pozycje autorskie i dlatego, że system nie radził sobie zimi w ich wykrywaniem. Przynajmniej do tej pory.

Nie sądzę, żeby to oznaczało, że powinniśmy nie ufać całej nauce — wręcz przeciwnie. Zdecydowana większość naukowców wykonuje uczciwą, rzetelną pracę. Ale to oznacza, że powinniśmy być ostrożni w interpretacji pojedynczych badań i pamiętać, że proces naukowy, choć samonaprawiający się, nie działa natychmiast.

Fakt, że naukowcy stworzyli to narzędzie i otwarcie opublikowali wyniki, jest właściwie oznaką zdrowia systemu. Naukowcy łapiący i demaskujący oszustwa we własnym środowisku? Tak właśnie nauka powinna działać.

Ale to też przypomnienie, że za każdym „przełomem" stoją prawdziwi ludzie wykonujący prawdziwą pracę — i时间长 im się, żeby upewnić się, że dziedzina nie jest zanieczyszczana fabrycznie produkowanym bezsensem.

Co o tym myślisz? Czy to zmienia twój sposób postrzegania wiadomości naukowych? Podziel się swoimi przemyśleniami w komentarzach!