Quindi... l'IA Ora Può Progettare Virus?
Ragazzi, devo parlarvi di una cosa che mi sta tormentando da un po'.
Un gruppo di ricercatori ha sviluppato un modello di IA chiamato Evo 2. Questo software può letteralmente progettare sequenze di DNA da zero. Compresi i virus. Non virus già esistenti, ma versioni completamente nuove, mai viste in natura.
È un po' come dare a un bambino un set di Lego infinito e sperare che costruisca solo case. Invece di... beh, avete capito.
Prima di fuggire nel bosco
Okay, prima che qualcuno cominci a fare scorte di cibo in scatola, devo spiegarvi perché esiste una cosa del genere. E tranquilli, ci sono motivi seri.
Pensiamo ai superbatteri resistenti agli antibiotici. Quei microrganismi che nessun farmaco riesce più a eliminare. Sono responsabili di oltre un milione di morti ogni anno. E il numero continua a salire.
Un utilizzo concreto di questa tecnologia potrebbe essere lo sviluppo di batteriofagi — virus che attaccano e distruggono specificamente i batteri. Potremmo usarli per debellare questi superbatteri.
Oppure pensiamo al cancro. Gli scienziati stanno già esplorando come ingegnerizzare virus per colpire e distruggere le cellule tumorali, risparmiando quelle sane. Non è affatto male, vero?
Però c'è un problema
Ed è qui che il mio ottimismo comincia a vacillare.
Anthropic, la società dietro l'assistente IA Claude, ha pubblicato di recente un rapporto su alcune richieste piuttosto inquietanti degli utenti. Qualcuno chiedeva informazioni sulla ricerca di armi biologiche.
Ora, attenzione: la società ha bloccato questi tentativi. Ha implementato protezioni e bannato gli account coinvolti. Ma il fatto che queste domande fossero possibili? Questo è il punto preoccupante.
E non è finita. I ricercatori hanno testato un altro modello, Moremi Bio Agent, con le protezioni disattivate (per fortuna, in quel contesto). Gli hanno chiesto di progettare tossine nuove. L'IA ha partorito sequenze molto simili a sostanze pericolose come la ricina e proteine del veleno di serpente.
Ha generato circa 10^20 proteine tossiche nuove e 5.000 molecole tossiche piccole.
Non è un errore di battitura. Sono davvero tanti potenziali armi biologiche.
Un Modello Che Conosciamo Bene
Nella storia, abbiamo creato strumenti che possono servire sia al bene che al male. Il fuoco. L'energia nucleare. Internet (ok, forse non allo stesso livello, ma avete presente).
L'IA applicata alla biologia sta seguendo la stessa strada. La tecnologia di per sé non ha intenzioni — fa semplicemente quello per cui è stata addestrata. Ma le intenzioni? Quelle vengono dagli esseri umani. E alcuni esseri umani, purtroppo, hanno intenzioni pessime.
Dario Amodei, CEO di Anthropic, ha chiesto di rallentare lo sviluppo dell'IA, citando il bioterrorismo come preoccupazione principale. Non è allarmismo da guru del web — è qualcuno che costruisce questi sistemi per mestiere a dirci "ehi, forse dovremmo rallentare".
Cosa Facciamo Adesso?
Onestamente? Non ho tutte le risposte. Sono solo un blogger di scienza del quartiere, non un esperto di politiche o biosicurezza.
Ma ecco cosa penso:
Prima cosa: ci serve cooperazione internazionale sugli standard di sicurezza dell'IA, specialmente quando parliamo di biologia sintetica. Le aziende non possono controllarsi da sole.
Seconda cosa: dobbiamo educare il pubblico su cosa sta succedendo. Le cose spaventose fanno meno paura quando le capisci.
Terza cosa, e questa è difficile: dobbiamo trovare il modo di preservare la ricerca utile mentre blocchiamo gli abusi. È come tenere il genio nella lampada mentre usi la magia per scopi buoni.
La Domanda Che Non Mi Fa Dormire
Allora vi lascio con una domanda che non ha una risposta facile:
Se abbiamo il potere di creare nuove forme di vita — e non esageriamo, è praticamente quello che stiamo parlando — come facciamo a garantire che questo potere resti nelle mani giuste?
Perché questo genio è già fuori dalla lampada. L'unica domanda è come gestirlo.
Voi cosa ne pensate? Siamo all'alba di una nuova era nella medicina, oppure stiamo giocando con un fuoco che non capiamo del tutto? Mi farebbe davvero piacere sapere le vostre opinioni.