Christopher Olah
Ce que faisait le patron d’Anthropic avec le pape Léon XIV pour son premier manifeste
Le pape s’est entouré de hauts responsables du Saint-Siège et du cofondateur d’Anthropic, Christopher Olah, pour présenter un texte majeur appelant à réguler l’IA.
Chacun son domaine. Le pape Léon XIV s’est entouré d’éminents théologiens catholiques et de l’un des cofondateurs de la start-up américaine Anthropic pour présenter, ce lundi 25 mai, son premier texte majeur consacré à « désarmer » l’intelligence artificielle pour « l’empêcher de dominer l’humain ». Dans Magnifica Humanitas (Humanité magnifique), publié par le Vatican, il dénonce aussi les « nouvelles formes d’esclavage » derrière l’essor fulgurant de l’IA.
Christopher Olah, le cofondateur d’Anthropic, a déclaré que sa présence à la cérémonie s’expliquait par l’ampleur des enjeux liés à l’IA, dans un message partagé lundi sur X : « Les questions soulevées par l’IA dépassent le cadre de la communauté de l’IA. Nous avons un besoin urgent que le monde entier — les religions, la société civile, les universitaires, les gouvernements — participe à la mise en place d’une issue positive. »
Par ailleurs, l’entreprise a organisé une série d’événements destinés aux chefs religieux de différentes confessions ces derniers mois pour discuter notamment du « développement spirituel » de ses systèmes d’IA, souligne NBC News. Et Anthropic affirme chercher à entraîner son IA Claude à suivre une « constitution », un ensemble de principes internes décrits comme son « âme ».
« Nouvelles formes d’esclavage »
C’est donc avec sa casquette d’expert que Christopher Olah a pu assister à la présentation de cette encyclique, une lettre adressée à l’ensemble des fidèles, fixant une position de référence sur des questions sociales, morales ou théologiques. Dans ce texte de 130 pages, Léon XIV avance que l’IA ne peut « être considérée comme moralement neutre ».
Le pape augustinien insiste sur la nécessité d’un code éthique commun sur l’IA ainsi que sur le rôle crucial de l’éducation pour apprendre à en maîtriser les risques. Aujourd’hui, « le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques » qui « fixent les conditions d’accès, les règles de visibilité et les possibilités de participation », regrette-t-il.
Citant Platon, JRR Tolkien, Picasso ou encore Beethoven pour leur contribution à lutter contre la déshumanisation, le pape américain fustige aussi « les nouvelles formes d’esclavage » nées pour extraire les ressources nécessaires à l’utilisation de l’IA et appelle à « des solutions technologiques plus durables afin de réduire l’impact sur l’environnement ». « Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s’interrompe pas », dénonce-t-il.
Même impact dans le monde que « Laudato Si’ » ?
L’évêque de Rome en profite pour demander « sincèrement pardon » pour le retard avec lequel l’Église a condamné « le fléau de l’esclavage » au cours de l’Histoire.
Au-delà des enjeux technologiques, le pape s’inquiète d’un risque de « déshumanisation », mettant en garde contre une vision de l’humain réduit à ses performances ou à des données exploitées par les machines.
Depuis son élection il y a un an, le premier pape nord-américain de l’Histoire a multiplié les avertissements face aux dangers de l’IA, en soulignant la nécessité d’une « alphabétisation numérique ».
Les experts estiment que l’impact de Magnifica Humanitas pourrait être comparable à celui de l’encyclique Laudato Si’, manifeste du pape François sur l’écologie intégrale qui avait, dès sa publication en 2015, entraîné une vague de réactions dans le monde.
(source: huffingtonpost.fr)