Principaux points
Un modèle d’intelligence artificielle d’OpenAI a inventé plus d’une douzaine de nouveaux virus infectant les bactéries après que des scientifiques de l’université de Stanford ont formé le modèle à reconnaître les structures de l’ADN dans la nature et à les réécrire pour créer des génomes viraux inédits.
Faits clés
- Dans une étude publiée jeudi dans la revue Science, les scientifiques ont expliqué comment ils ont pu entraîner un modèle génératif d’OpenAI, nommé Evo, à concevoir des génomes viraux pleinement fonctionnels à partir de zéro.
- Tout comme les modèles de langage sont formés sur de vastes ensembles de textes, les scientifiques ont formé Evo sur une quantité massive de données ADN comprenant des millions de génomes, et à partir de là, il a appris les contraintes évolutives qui façonnent les séquences ADN dans la nature et écrit ses propres « recettes » pour de nouveaux virus.
- Après que les scientifiques ont synthétisé l’ADN conçu par l’IA en laboratoire, 16 des phages générés ont réussi à infecter E. coli, surmontant dans certains cas les mécanismes de résistance naturelle des bactéries.
- Les nouveaux virus possédaient des séquences distinctes de tout ce qui existe dans la nature.
- Les auteurs de l’étude ont exclu de leurs modèles d’entraînement les ensembles de données sur les pathogènes humains, ce qui signifie que les virus créés ne sont pas capables d’infecter des personnes, mais les résultats soulèvent tout de même des inquiétudes croissantes parmi les scientifiques quant au fait que l’IA pourrait un jour être utilisée pour créer une nouvelle génération d’armes biologiques.
- La capacité à concevoir de nouveaux virus fonctionnels sur mesure pourrait également mener à des avancées dans le traitement des superbactéries résistantes aux antibiotiques en permettant aux scientifiques de générer des thérapies personnalisées, plutôt que de se contenter de rechercher dans la nature des virus ciblant des bactéries spécifiques.
Principaux critiques
Un certain nombre de spécialistes de la biosécurité, de responsables de la santé publique et de biologistes synthétiques ont exprimé des préoccupations quant à la rapidité des progrès de l’IA dans le domaine de la biologie et au manque de cadres législatifs. Dans un commentaire accompagnant l’étude dans Science, les leaders en biosécurité Dr. Thomas Inglesby et Dr. Moritz Hanke du Johns Hopkins Center for Health Security ont averti que la recherche de Stanford prouve que l’IA est maintenant capable d’inventer des armes biologiques dangereuses. Ils ont appelé à des lois strictes concernant les recherches futures et ont déclaré qu’il devrait être illégal d’utiliser des techniques génératives similaires sur les pathogènes affectant les humains, les animaux ou les cultures agricoles.
Citation cruciale
“Vous pourriez dire : ‘Hé, modèle de langage génomique, créez-moi un génome de grippe modifié pour être plus transmissible ou plus létal,” a déclaré Hanke au New York Times.
Opposition
Tom Ellis, professeur de génie du génome synthétique à l’Imperial College de Londres, a déclaré au Guardian qu’il ne pense pas qu’il serait si facile de créer une arme biologique ayant un impact sur l’homme. Il a dit que les virus créés par Evo sont « littéralement les plus petits et les plus faciles à fabriquer », et que des restrictions simples sur l’accès aux données génétiques pourraient faire une grande différence.
Contexte clé
Depuis plusieurs mois, les scientifiques débattent de la nécessité de limiter le potentiel des logiciels d’IA biologique. Alors que certains soutiennent que la technologie pourra accélérer la recherche biomédicale bénéfique, les mêmes modèles pourraient être mal utilisés pour aider à identifier, concevoir ou optimiser des menaces biologiques si des garde-fous appropriés ne sont pas en place. De grandes entreprises d’IA se sont réunies pour créer le Frontier Model Forum, une organisation à but non lucratif, en partie pour rechercher les risques liés à l’IA-biologique, développer des normes de sécurité et réduire la chance que les modèles de pointe puissent être exploités pour une mauvaise utilisation biologique. En plus des préoccupations selon lesquelles les modèles entraînés pourraient créer de nouvelles menaces, beaucoup soutiennent que ces modèles vont abaisser les barrières d’accès à la connaissance pour les acteurs malveillants cherchant des informations sur des pathogènes dangereux. En avril, des scientifiques ont déclaré au Times qu’ils avaient pu poser une série de questions à des chatbots d’IA et, en retour, ont reçu un guide étape par étape sur la façon d’assembler des pathogènes mortels et de les libérer dans des espaces publics.
Cet article a été écrit par Mary Whitfill Roeloffs et traduit par Forbes.be.
