El filtro anti-basura de la ciencia que podría salvar la investigación contra el cáncer

¿Te ha pasado que lees un titular prometedor sobre un avance contra el cáncer y luego resulta que el estudio era falso o fue retractado? Bueno, esto ocurre mucho más de lo que nadie imaginaba. Y ahora, un grupo de investigadores creó una herramienta para detener a los responsables antes de que causen daño real.

Una red contra la basura científica

El profesor Adrian Barnett, de la Universidad de Tecnología de Queensland, lideró un equipo que entrenó una inteligencia artificial para analizar la friolera de 2.6 millones de artículos de investigación sobre cáncer publicados entre 1999 y 2024. El objetivo: identificar estudios que parecían provenir de las llamadas "fábricas de papers".

"Básicamente son empresas que venden investigaciones falsas o de mala calidad", explicó el profesor Barnett. "Producen 'ciencia' a escala industrial, y nuestros hallazgos sugieren que el problema en la investigación del cáncer es mucho peor de lo que la mayoría pensaba".

La herramienta que construyeron es bastante ingeniosa. Imagina un filtro de spam, pero para artículos científicos. El sistema, basado en el modelo de lenguaje BERT, aprendió a reconocer las huellas digitales de los estudios fraudulentos: texto reutilizado, frases torpes que sugieren que el autor no es angloparlante (o directamente no es científico), y patrones que delatan trabajos escritos con plantillas.

Cuando la probaron con papers falsos conocidos, el sistema detectó el trabajo sospechoso el 91% de las veces. Para ser una herramienta contra el fraude académico, eso es impresionante.

Los números que dan miedo

Aquí viene lo preocupante. Los investigadores encontraron que más de 250,000 artículos mostraban patrones sospechosos. Pero lo que realmente inquieta es la tendencia a lo largo del tiempo.

A principios de los 2000, solo alrededor del 1% de la investigación sobre cáncer publicada mostraba estas banderas rojas. Para 2022, la cifra subió a más del 16%. ¡Uno de cada seis! Esto no es un problemita escondido en algún rincón de la ciencia. Es una inundación.

Los papers falsos tampoco estaban esparcidos al azar. Se concentraban en ciertas áreas: biología molecular del cáncer, investigación de laboratorio en etapas tempranas, y tipos específicos como los de estómago, hígado, hueso y pulmón. Si esto es porque esos campos son más rentables para las fábricas de papers o simplemente más fáciles de falsificar, vale la pena pensarlo.

¿Por qué debería importarte?

Quizás pienses: "Bueno, pero no soy científico. ¿Por qué me afecta esto?"

Aquí va el porqué: cuando los investigadores construyen sobre hallazgos previos para desarrollar nuevos tratamientos, dependen del cuerpo de evidencia existente. Si esa base contiene cientos de miles de estudios fabricados, científicos reales pueden desperdiciar años persiguiendo callejones sin salida. Los ensayos clínicos podrían diseñarse con suposiciones falsas. El desarrollo de medicamentos podría ir por el camino equivocado.

"La investigación del cáncer influye en los ensayos clínicos, el desarrollo de fármacos y la atención al paciente", dijo el profesor Barnett. "Si estudios fabricados llegan a la base de evidencia, pueden desviar a los científicos reales y, en última instancia, ralentizar el progreso para los pacientes".

Piénsalo así: cada paper falso que se publica no solo es tiempo perdido. Activamente desvía recursos del trabajo legítimo e incluso puede orientar mal a todo un campo de estudio.

La buena noticia (sí, hay una)

Tres revistas científicas ya están probando la herramienta para ayudar a sus editores a revisar manuscritos antes de enviarlos a revisión por pares. Eso es un gran avance, porque aunque la revisión por pares es esencial, no es infalible. Los revisores suelen trabajar con tiempo limitado y no siempre pueden detectar un fraude sofisticado.

Los investigadores también planean adaptar el sistema para otros campos científicos más allá del cáncer. Y esperan que funcione cada vez mejor conforme tengan más ejemplos confirmados de fábricas de papers para entrenarlo.

Pero hay un matiz importante: el sistema marca papers sospechosos, no prueba fraude de forma definitiva. Esos estudios señalados aún necesitan que expertos humanos investiguen y saquen conclusiones. Es una herramienta para priorizar cuáles artículos merecen revisión más cuidadosa, no un verdugo automático.

Una conversación más grande

Todo esto plantea preguntas incómodas sobre cómo funciona la publicación científica. La presión por publicar —"publicar o morir", como dicen en el mundo académico— crea incentivos que aparentemente algunas personas explotan de formas profundamente antiéticas.

Las fábricas de papers existen porque hay demanda de posiciones de autoría y porque el sistema no ha sido bueno para atraparlas. Hasta ahora, al menos.

No creo que esto signifique que debamos desconfiar de toda la investigación científica. Para nada. La mayoría de los científicos hacen trabajo honesto y riguroso. Pero sí significa que deberíamos ser reflexivos al interpretar estudios individuales y reconocer que el proceso científico, aunque se autocorrige, no es instantáneo.

El hecho de que estos investigadores desarrollaran la herramienta y publicaran sus hallazgos abiertamente es, de hecho, una señal de salud del sistema. ¿Científicos detectando y exponiendo fraude dentro de su propia comunidad? Eso es la ciencia funcionando como debería.

Pero también es un recordatorio de que detrás de cada "avance" hay personas reales haciendo trabajo real. Y les debemos asegurarnos de que el campo no esté contaminado por basura producida en fábrica.

Fuente: ScienceDaily — AI flags more than 250,000 suspicious cancer research papers (sciencedaily.com)