Dans un laboratoire de l’université de Stanford, des chercheurs ont observé des zones claires se propager sur une boîte de Petri remplie de bactéries — le signe incontestable que quelque chose qu’ils avaient construit entièrement à l’intérieur d’un ordinateur venait de prendre vie. Les organismes qui éliminaient ces bactéries n’avaient pas été prélevés dans la nature. Il s’agissait de virus conçus par IA, générés par un modèle informatique appelé Evo puis chimiquement construits à partir de zéro, et les résultats soulèvent désormais des questions qui vont bien au-delà d’un seul laboratoire en sous-sol à Stanford.
Summary
Points clés à retenir
- Evo, un modèle d’IA développé par l’université de Stanford et l’Arc Institute, a proposé 700 000 génomes viraux possibles, dont 285 ont été chimiquement synthétisés et 16 ont produit des virus capables de se répliquer et de tuer des bactéries.
- Evo a d’abord été entraîné sur environ neuf mille milliards de nucléotides provenant de millions d’animaux, de plantes, de microbes et de virus, puis spécialisé sur les 11 gènes du bactériophage Phi X-174 et environ 15 000 génomes apparentés.
- Les virus générés par l’IA étaient aussi robustes que les virus naturels, et certains se sont répliqués plus rapidement que le phage naturel Phi X-174 lui-même.
- Les règles actuelles de biosécurité des National Institutes of Health des États-Unis interdisent les expériences qui rendent les agents pathogènes plus dangereux, mais elles ne couvrent pas clairement la conception de virus purement computationnelle, sauf si elle implique une « entité préoccupante ».
- Des experts, dont Moritz Hanke du Johns Hopkins Center for Health Security, mettent en garde contre un fossé croissant entre ce que l’IA peut désormais faire et les règles censées la réguler.
Le modèle d’IA Evo conçoit de nouveaux génomes viraux pour les bactéries
Evo fonctionne comme une version génétique d’un grand modèle de langage, prédisant des séquences d’ADN comme ChatGPT prédit le mot suivant dans une phrase. Au lieu du langage, cependant, il a appris les motifs inscrits dans le code génétique de la vie elle-même. L’équipe qui l’a développé, basée à Stanford et à l’Arc Institute, a voulu voir si ce type de reconnaissance de motifs pouvait aller plus loin que la conception de protéines ou d’antibiotiques individuels — et produire réellement un virus fonctionnel.
Comment Evo a été entraîné
La formation du modèle s’est déroulée en deux étapes. L’entraînement initial d’Evo s’est appuyé sur environ neuf mille milliards de nucléotides provenant de millions d’organismes couvrant les règnes animal, végétal, microbien et viral, absorbant des motifs qui traversent l’ensemble de l’arbre du vivant. Ce n’est qu’après cette base large qu’une deuxième phase d’entraînement spécialisée a suivi, cette fois centrée étroitement sur les 11 gènes du bactériophage Phi X-174 et environ 15 000 de ses plus proches parents. Pour Samuel King, doctorant à Stanford et co-auteur de la recherche, superposer l’entraînement de cette manière semblait être la démarche évidente. « Cela semblait tout simplement être l’étape suivante évidente », a-t-il déclaré.
De 700 000 candidats à 16 virus fonctionnels
Une fois entraîné, Evo a proposé 700 000 génomes viraux possibles. Les chercheurs ont réduit cet immense ensemble aux candidats les plus prometteurs et ont fait chimiquement synthétiser 285 séquences sous forme d’ADN, qui ont ensuite été insérées dans des bactéries pour voir ce qui se passerait. Seize de ces séquences ont produit des virus capables de se répliquer — et, point crucial, capables de tuer au passage les bactéries cibles, E. coli. King et ses collègues se seraient rendu compte que les phages fonctionnaient aux premières heures du matin, en observant l’apparition de zones claires sur les boîtes de Petri. « Nous commencions à voir ces zones claires et c’était extrêmement excitant », a déclaré King. Lorsque l’équipe élargie a vu les résultats, selon Brian Hie, professeur assistant à Stanford, « la salle a spontanément éclaté en applaudissements ».
Comment les virus conçus par IA se sont réellement comportés au laboratoire
Les 16 virus issus de l’expérience n’étaient pas de fragiles curiosités de laboratoire. Ils ont égalé les performances de virus naturels, et dans certains cas les ont surpassés — un résultat qui a surpris même des chercheurs non impliqués dans les travaux.
Robustesse, vitesse et jalons scientifiques
Les virus conçus se sont révélés aussi robustes que les virus naturels, et certains se sont répliqués encore plus vite que Phi X-174 lui-même. « Ce ne sont pas seulement des versions chétives de choses qui existent déjà », a déclaré Oliver Crook, chimiste des protéines à l’université d’Oxford, qui ne faisait pas partie de l’étude. Patrick Cai, biologiste synthétique à l’université de Manchester, a qualifié ces travaux de « jalon important », ajoutant que « la portée dépasse largement les phages — cela suggère que les modèles de langage de génomes commencent à apprendre les principes de conception encodés par l’évolution, ouvrant la voie à une écriture de génomes assistée par IA ». Marc Güell, du laboratoire de biologie synthétique de l’université Pompeu Fabra, l’a décrit comme un « tournant très significatif » car, pour la première fois, « nous commençons à concevoir la biologie sur un ordinateur ».
Crook a toutefois tenu à tempérer les attentes. L’IA n’a rien inventé de fondamentalement nouveau — les virus obtenus sont très similaires à des espèces naturelles et reposent sur la même biologie sous-jacente plutôt que sur un mécanisme inédit. La question de savoir si Evo pourrait réussir le même tour avec d’autres familles de virus reste ouverte. Si l’approche se généralise, a indiqué Crook, elle pourrait fournir des outils réellement utiles pour la médecine et la biotechnologie : « Une grande partie de notre science repose sur les virus en tant que technologie. » Pour situer l’ordre de grandeur, le génome du phage sur lequel l’équipe a travaillé compte environ 5 400 paires de bases, contre environ 500 000 paires de bases pour la plus petite cellule vivante et environ trois milliards pour le génome humain — un écart qui amène Hie à dire que concevoir un organisme vivant simple est « probablement beaucoup de travail, mais pas impossible », et quelque chose vers quoi l’équipe est « clairement intéressée à travailler ».
Lacunes de biosécurité autour de la conception computationnelle de virus
Cette avancée survient à un moment où la politique de biosécurité américaine n’a pas rattrapé ce que les modèles d’IA peuvent désormais générer sur un écran. Ce décalage est au cœur du débat autour de la synthèse de génomes viraux guidée par l’intelligence artificielle.
Ce que les règles américaines de biosécurité ne couvrent pas
Fin juillet, les National Institutes of Health ont dévoilé une politique concernant la recherche en sciences de la vie à haut risque qui interdit la création de variantes pathogènes plus dangereuses. Cependant, les travaux menés entièrement par des méthodes computationnelles — concevoir de l’ADN viral sur un ordinateur sans le construire physiquement — ne sont pas couverts « à moins qu’ils n’impliquent une entité préoccupante », selon l’agence. Cette distinction est facile à appliquer à quelque chose comme la variole, clairement classée comme dangereuse. Elle est bien plus floue lorsque le virus en question provient d’un modèle d’IA plutôt que d’une liste d’agents pathogènes connus, ce qui est précisément le type d’ambiguïté qui façonne aujourd’hui les débats sur la réglementation de la biosécurité avec laquelle les politiques en matière d’IA peinent à suivre.
Précautions et avertissements d’experts
L’équipe de Stanford et de l’Arc Institute n’a pas attendu que les régulateurs rattrapent leur retard. Tout au long de sa phase d’entraînement, Evo n’a été exposé à aucune information concernant des virus infectant l’être humain ni leurs organismes pathogènes associés affectant les animaux, les plantes ou les champignons — ce qui signifie que le modèle ne peut tout simplement pas produire ces séquences génétiques au départ. « Notre intention était simplement de faire preuve de la plus grande prudence », a déclaré Brian Hie. Moritz Hanke, du Johns Hopkins Center for Health Security, a qualifié cette décision de « tout à fait louable », d’autant qu’aucune règle officielle ne l’exigeait : « Parce qu’ils ne reçoivent aucune directive de nulle part sur ce qu’ils devraient faire. »
Hanke et Thomas Inglesby, également de Johns Hopkins, sont allés plus loin dans un commentaire publié en parallèle de la recherche dans la revue Science, avertissant que les résultats soulèvent « des questions urgentes de biosécurité et de sûreté biologique ». Le véritable enjeu, ont-ils soutenu, n’est pas de savoir si la conception générative de génomes viraux existera à l’avenir — elle existe clairement déjà — mais si elle peut être utilisée sans « permettre de graves dommages ». Hanke a exposé la préoccupation de manière brutale : « Quel est le risque de ce que je n’ai jamais vu auparavant ? » a-t-il demandé, décrivant « un énorme décalage » entre la vitesse à laquelle la science progresse et la lenteur avec laquelle les garde-fous suivent. Son scénario du pire est facile à imaginer : « Vous pourriez dire : “Hé, modèle de langage génomique, fabrique-moi un génome de grippe modifié pour être plus transmissible ou plus létal.” »
Pourquoi c’est important : le même raccourci computationnel qui a permis à Evo de concevoir 16 bactériophages fonctionnels en quelques mois, en utilisant neuf mille milliards de nucléotides de données d’entraînement et une phase de perfectionnement ciblée sur Phi X-174, est une méthode à usage général. Rien dans la technique sous-jacente ne la limite à des tueurs de bactéries inoffensifs. C’est précisément la faille que Hanke et Inglesby pointent du doigt : une méthode de recherche qui progresse plus vite que la politique censée la contenir, dans un domaine où la recherche en biologie synthétique brouille de plus en plus la frontière entre concevoir de nouveaux médicaments et concevoir de nouveaux risques.
Pour l’instant, les chercheurs affirment que les garde-fous qu’ils ont appliqués — exclusion des données sur les virus infectant l’être humain, travail uniquement sur des bactériophages et réalisation de toutes les expériences dans un laboratoire sécurisé — contribuent largement à orienter la technologie vers le bénéfice plutôt que vers le préjudice. Hie soutient que l’approche a le potentiel de « considérablement améliorer la santé humaine » grâce à de nouveaux médicaments et thérapies, y compris des traitements à base de phages pour les infections résistantes aux antibiotiques. La question de savoir si cette promesse se vérifiera au-delà de Phi X-174, et si les régulateurs agiront avant que la prochaine version de cette expérience ne vise une cible moins contenue, sont les deux points qui devraient définir la suite pour les virus conçus par IA.
FAQ
Dans quelle mesure les virus conçus par IA ont-ils été efficaces lors des tests en laboratoire ?
Sur 285 séquences de génomes viraux synthétisées, 16 ont produit des virus capables de se répliquer et de tuer des bactéries en laboratoire.
Quelles données ont été utilisées pour entraîner le modèle d’IA Evo ?
Evo a d’abord été entraîné sur environ neuf mille milliards de nucléotides provenant de millions d’animaux, de plantes, de microbes et de virus, puis spécifiquement sur les 11 gènes du phage Phi X-174 et environ 15 000 génomes apparentés.
Pourquoi les politiques américaines actuelles de biosécurité ne réglementent-elles pas les virus conçus par IA ?
Parce que la conception purement computationnelle d’ADN viral n’est pas couverte par les politiques actuelles des NIH américains, sauf si elle implique une entité préoccupante, ce qui crée une lacune réglementaire pour les virus conçus par IA.
Quelles précautions les scientifiques ont-ils prises lors de l’entraînement d’Evo ?
Ils ont exclu les données sur les virus qui infectent l’être humain et les agents pathogènes associés, afin d’empêcher l’IA de générer des génomes viraux potentiellement dangereux infectant l’être humain.
{« @context »: »https://schema.org », »@type »: »FAQPage », »mainEntity »:[{« @type »: »Question », »name »: »Dans quelle mesure les virus conçus par IA ont-ils été efficaces lors des tests en laboratoire ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Sur 285 séquences de génomes viraux synthétisées, 16 ont produit des virus capables de se répliquer et de tuer des bactéries en laboratoire. »}},{« @type »: »Question », »name »: »Quelles données ont été utilisées pour entraîner le modèle d’IA Evo ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Evo a d’abord été entraîné sur environ neuf mille milliards de nucléotides provenant de millions d’animaux, de plantes, de microbes et de virus, puis spécifiquement sur les 11 gènes du phage Phi X-174 et environ 15 000 génomes apparentés. »}},{« @type »: »Question », »name »: »Pourquoi les politiques américaines actuelles de biosécurité ne réglementent-elles pas les virus conçus par IA ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Parce que la conception purement computationnelle d’ADN viral n’est pas couverte par les politiques actuelles des NIH américains, sauf si elle implique une entité préoccupante, ce qui crée une lacune réglementaire pour les virus conçus par IA. »}},{« @type »: »Question », »name »: »Quelles précautions les scientifiques ont-ils prises lors de l’entraînement d’Evo ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Ils ont exclu les données sur les virus qui infectent l’être humain et les agents pathogènes associés, afin d’empêcher l’IA de générer des génomes viraux potentiellement dangereux infectant l’être humain. »}}]}
Article produit avec l’aide de l’intelligence artificielle et relu par l’équipe éditoriale.
