¿Qué? ¿Ahora la IA puede diseñar virus?

Necesito contarles algo que me tiene preocupado. Y sí, uso la palabra "preocupado" a propósito.

Unos investigadores desarrollaron Evo 2, un modelo de inteligencia artificial que puede diseñar secuencias de ADN desde cero. Incluyendo virus. No virus cualquiera, sino completamente nuevos, que nunca han existido en la naturaleza.

Piensen en eso un momento.

Primero, ¿por qué existe algo así?

Antes de que suban las alarmas, hay que entender el contexto. Esta tecnología no nació con malas intenciones.

Los superbugs resistentes a antibióticos matan a más de un millón de personas al año. Esa cifra va en aumento. La investigación con IA podría abrir la puerta a nuevos bacteriófagos, es decir, virus que atacan bacterias específicas. Imaginen virus buenos contra bichos malos.

También está el tema del cáncer. Ya se está explorando cómo usar virus diseñados para atacar células cancerosas sin dañar las sanas. Eso es increíble, sin exagerar.

Pero hay un lado oscuro

Acá es donde mi lado optimista empieza a temblar un poco.

Anthropic, la empresa detrás de Claude, publicó un reporte sobre consultas preocupantes de sus usuarios. Gente preguntando sobre armas biológicas.

La empresa detectó estos intentos y los bloqueó. Tomó medidas, banned las cuentas. Pero el hecho de que esas consultas fueran posibles... ahí está el problema.

Y se pone peor. Investigadores probaron otro modelo llamado Moremi Bio Agent, pero sin sus protecciones de seguridad. Le pidieron que diseñara toxinas nuevas. El modelo generó secuencias similares a ricina y venenos de serpiente.

Produjo aproximadamente 10^20 proteínas tóxicas y 5.000 moléculas pequeñas tóxicas.

Así como lo leen.

Un patrón que conocemos

En la historia, hemos creado herramientas que sirven para el bien y para el mal. El fuego. La energía nuclear. Internet.

La IA en biología va por el mismo camino. La tecnología no tiene intenciones propias. Solo hace lo que se entrenó para hacer. Las intenciones vienen de los humanos. Y algunos humanos, lamentablemente, tienen malas intenciones.

Dario Amodei, CEO de Anthropic, pidió最近 una desaceleración en el desarrollo de IA. Citó la biotenencia como preocupación mayor. Esto no es pánico innecesario. Viene de alguien que construye estos sistemas.

¿Qué hacemos ahora?

No tengo todas las respuestas. Solo soy un blogger de ciencia, no un experto en políticas públicas.

Pero tengo algunas ideas:

Necesitamos cooperación internacional en estándares de seguridad de IA, sobre todo en biología sintética. Las empresas no pueden resolver esto solas.

Necesitamos educación pública. Lo que da miedo deja de dar tanto miedo cuando la gente lo entiende.

Y la parte difícil: encontrar la manera de proteger la investigación útil mientras evitamos el mal uso. Es como querer usar la lámpara pero mantener al genio bajo control.

La pregunta que me persigue

Les dejo con algo que no tiene respuesta fácil:

Si tenemos el poder de crear nuevas formas de vida, ¿cómo nos aseguramos de que ese poder esté en las manos correctas?

Este genio ya salió de la lámpara. La única pregunta es cómo lidiamo con eso.

¿Qué opinan? ¿Estamos ante el amanecer de una nueva era en medicina o estamos jugando con fuego que no entendemos del todo? Me encantaría leer sus pensamientos.