L'IA peut maintenant créer des virus… et c'est pas aussi terrifiant qu'on croit (enfin, presque)

Allez, je dois vous causer d'un truc qui me travaille sérieux depuis quelques semaines.

Des chercheurs ont pondu un modèle d'IA nommé Evo 2. Son truc ? Concevoir des séquences ADN from scratch. Comprenez : des virus, des vrais, jamais vus dans la nature. Imaginez donner à un gamin une boîte de Lego infinie et prier pour qu'il construise des maisons plutôt que... vous voyez où je veux en venir.

Mais avant que vous courriez au supermarché pour racheter des pâtes, laissez-moi vous expliquer pourquoi ça existe. Et oui, il y a de bonnes raisons, crois-moi.

Le côté lumineux (oui, il existe)

Le problème avec cette technologie, c'est qu'elle n'est pas foncièrement mauvaise. Au contraire.

Prenez les superbactéries résistantes aux antibiotiques. Ces petites choses qui résistent à tous nos médicaments tuent plus d'un million de personnes par an — et ça empire. Une piste intéressante de cette recherche sur l'IA ? Développer de nouveaux bactériophages (des virus qui bouffent les bactéries) capables de把这些-sales-bêtes-là. On pourrait peut-être enfin les éradiquer.

Ou Pensez au cancer. Des scientifiques explorent déjà comment utiliser des virus conçus sur mesure pour attaquer uniquement les cellules cancéreuses sans toucher aux tissus sains. Plutôt futé, non ?

Là où ça se corse

Sauf que voilà — c'est là que mon côté optimiste commence à lâcher.

Anthropic (la boîte derrière Claude) a sorti un rapport sur certaines requêtes cheloues de leurs utilisateurs. Des gens cherchaient comment faire de la recherche sur les armes biologiques. Charmant.

Là où je tempère quand même : l'entreprise a repéré ces tentatives et les a bloquées. Des garde-fous ont été ajoutés, les comptes bannis. Mais le fait que ces questions aient été possibles ? C'est ça qui fout les jetons.

Et ça va plus loin. Des chercheurs ont testé un autre modèle appelé Moremi Bio Agent — avec ses protections désactivées, hein, pour les besoins du test. Ils lui ont demandé de créer de nouvelles toxines. L'IA a pondu des séquences qui correspondent de près à des substances dangereuses comme la ricine ou des protéines de venin de serpent. Elle a généré environ 10^20 protéines toxiques nouvelles et 5 000 petites molécules toxiques.

Ce n'est pas une faute de frappe. Ça fait beaucoup de biarmes potentielles en attente.

Le schéma qui se dessine

À travers l'histoire, on a toujours créé des outils capables du meilleur comme du pire. Le feu. Le nucléaire. L'internet (ok, pas au même niveau, mais vous captez).

L'IA en biologie suit exactement la même trajectoire. La technologie itself n'a pas d'intentions — elle fait juste ce pour quoi elle a été entraînée. Mais les intentions ? Elles viennent des humains. Et certains humains, bah, sont pas nets.

Dario Amodei, le patron d'Anthropic, a récemment plaidé pour un ralentissement du développement de l'IA, pointant le risque de bioterrorisme. Ce n'est pas du catastrophisme de doux dingues — c'est quelqu'un qui construit ces systèmes qui en parle.

Alors, on fait quoi ?

Honnêtement, j'ai pas toutes les réponses. Je suis juste un blogueur de quartier qui cause science, pas un expert en politiques de biosécurité.

Mais voici ce que je pense :

D'abord, il nous faut une coopération internationale sur les standards de sécurité IA, surtout quand ça touche à la biologie synthétique. Les entreprises ne peuvent pas gérer ça toutes seules.

Ensuite, on a besoin que le grand public comprenne ce qui se passe. Les trucs flippants font moins peur quand on les comprend.

Troisième point, le plus délicat : trouver comment garder les bénéfices de la recherche tout en bloquant les abus. C'est un peu comme vouloir garder le génie dans la lampe tout en se servant de sa magie.

La question qui me empêche de dormir

Alors voici ce que je vous laisse :

Si on a le pouvoir de créer de nouvelles formes de vie — et c'est bien de ça qu'on parle — comment s'assurer que ce pouvoir reste entre de bonnes mains ?

Parce que ce génie-là, il est déjà sorti de sa lampe. La seule vraie question, c'est comment on gère ça.

Vous en pensez quoi ? On est à l'aube d'une nouvelle ère pour la médecine, ou on joue avec le feu sans vraiment le maîtriser ? Je serais vraiment curieux de lire vos réflexions.