Résumé
Chris Olah, milliardaire et cofondateur d’Anthropic, a déclaré lundi au Vatican que les pertes d’emploi massives dues à l’intelligence artificielle sont « une réelle possibilité » et que soutenir les travailleurs déplacés sera « un impératif moral d’une importance historique », lors de la présentation du premier discours majeur de l’Église catholique sur l’IA, aux côtés du pape Léo XIV.
Faits clés
- Olah, qui dirige la recherche chez Anthropic, fabricant du chatbot Claude et l’une des startups d’IA les plus valorisées au monde, a admis que chaque laboratoire d’IA de premier plan, y compris le sien, opère sous des pressions commerciales, géopolitiques et personnelles qui « peuvent parfois entrer en conflit avec le fait de faire ce qui est juste. »
- Il a soutenu que l’examen externe par des leaders religieux, des gouvernements et la société civile est essentiel car aucun chercheur, aussi bien intentionné soit-il, ne peut échapper à ces incitations, affirmant que les décisions liées à l’IA « ne devraient pas être laissées aux personnes de l’industrie. »
- Olah a déclaré que le développement de l’IA est concentré dans « une poignée de nations riches » sans mécanisme existant pour partager ses bénéfices avec les pays plus pauvres, identifiant cela comme la partie la plus difficile et la moins discutée du problème du déplacement d’emploi.
- Il a exhorté l’Église à appliquer son « imagination morale » aux questions de développement humain auxquelles « un laboratoire ne peut répondre. »
- Olah, dont l’équipe étudie ce qui se passe réellement à l’intérieur des systèmes d’IA — un domaine jeune connu sous le nom d’interprétabilité — a déclaré que les chercheurs « continuent de découvrir des choses mystérieuses, voire inquiétantes », y compris des preuves que les systèmes peuvent réfléchir à leur propre pensée et présenter des états internes qui « imitent fonctionnellement la joie, la satisfaction, la peur, le chagrin et l’inquiétude. »
Citation cruciale
« Ce ne sont pas les robots froids et calculateurs que l’on nous avait promis. Ils sont faits de nous, de nos mots », a déclaré Olah, décrivant les systèmes d’IA comme « cultivés » sur l’héritage de la pensée et de la parole humaines plutôt que conçus comme des ponts ou des avions, pour souligner pourquoi il croit que la technologie soulève des questions bien au-delà de l’informatique.
Contexte clé
Le pape Léo XIV, premier pontife né aux États-Unis, a fait de l’IA un thème central de son début de pontificat. Lundi, il a publié Magnifica Humanitas, sa première encyclique – une lettre papale formelle utilisée pour établir la doctrine catholique sur des questions morales majeures. Le document de 235 pages aborde l’impact de l’IA sur le travail, la guerre, l’éducation, la vie privée et la dignité humaine, et met en garde contre le fait de confier des « décisions létales » aux systèmes d’IA. Léo a rompu avec la tradition du Vatican en la présentant personnellement lors de la conférence de presse de lundi — une tâche généralement déléguée aux cardinaux — et a invité Olah à partager la scène dans ce que les observateurs du Vatican décrivent comme une tentative d’engager directement les personnes qui construisent la technologie. Une source du Vatican a déclaré à CNN que l’inclusion d’Anthropic « n’est pas une approbation, un prix, une récompense ou une canonisation. » Ancien chercheur de Google et OpenAI, Olah a cofondé Anthropic en 2021 avec le directeur général Dario Amodei et plusieurs collègues ayant quitté OpenAI à cause de désaccords sur la sécurité de l’IA. Il a été nommé dans la liste Time 100 AI de Time en 2024 pour son travail sur l’interprétabilité, le domaine qui tente de décrypter ce qui se passe à l’intérieur des grands modèles de langage, la technologie qui alimente les chatbots comme Claude et ChatGPT.
Incident connexe
L’apparition d’Olah sur scène a marqué la fin de semaines de compétition entre les entreprises de la Silicon Valley pour influencer l’encyclique. Une délégation du 29 avril, comprenant des représentants de Meta, Google et Amazon, a rencontré brièvement le pape Léo avant une discussion plus longue à l’ambassade de France auprès du Saint-Siège. Le lobbying ne semble pas avoir adouci le texte du pape qui dénonçait « la concentration du pouvoir et des données entre les mains de si peu » dans le secteur privé comme un danger pour les enfants et les personnes vulnérables. L’apparition au Vatican coïncide avec un litige juridique opposant Anthropic à l’administration Trump pour avoir refusé de permettre à l’armée américaine d’utiliser sans restriction ses systèmes d’IA pour des applications de défense et de guerre. Le Pentagone a qualifié la société de « risque pour la chaîne d’approvisionnement de la sécurité nationale » en février — une désignation généralement réservée aux entreprises liées aux adversaires étrangers — et le président Trump a interdit à toutes les agences fédérales d’utiliser sa technologie, la Maison Blanche qualifiant Anthropic à plusieurs reprises de « compagnie radicale de gauche, éveillée ».
Cet article a été écrit par Alicia Park et traduit par Forbes.be.
Cet article a été initialement publié sur Forbes.com
