Il rappelle que ces deux cas d’utilisation « n’ont jamais été inclus dans nos contrats avec le département de la guerre, et nous estimons qu’ils ne devraient pas l’être maintenant ».
(la suite dans: lemonde.fr)
IA
Ce que faisait le patron d’Anthropic avec le pape Léon XIV pour son premier manifeste
Le pape s’est entouré de hauts responsables du Saint-Siège et du cofondateur d’Anthropic, Christopher Olah, pour présenter un texte majeur appelant à réguler l’IA.
Chacun son domaine. Le pape Léon XIV s’est entouré d’éminents théologiens catholiques et de l’un des cofondateurs de la start-up américaine Anthropic pour présenter, ce lundi 25 mai, son premier texte majeur consacré à « désarmer » l’intelligence artificielle pour « l’empêcher de dominer l’humain ». Dans Magnifica Humanitas (Humanité magnifique), publié par le Vatican, il dénonce aussi les « nouvelles formes d’esclavage » derrière l’essor fulgurant de l’IA.
Christopher Olah, le cofondateur d’Anthropic, a déclaré que sa présence à la cérémonie s’expliquait par l’ampleur des enjeux liés à l’IA, dans un message partagé lundi sur X : « Les questions soulevées par l’IA dépassent le cadre de la communauté de l’IA. Nous avons un besoin urgent que le monde entier — les religions, la société civile, les universitaires, les gouvernements — participe à la mise en place d’une issue positive. »
Par ailleurs, l’entreprise a organisé une série d’événements destinés aux chefs religieux de différentes confessions ces derniers mois pour discuter notamment du « développement spirituel » de ses systèmes d’IA, souligne NBC News. Et Anthropic affirme chercher à entraîner son IA Claude à suivre une « constitution », un ensemble de principes internes décrits comme son « âme ».
« Nouvelles formes d’esclavage »
C’est donc avec sa casquette d’expert que Christopher Olah a pu assister à la présentation de cette encyclique, une lettre adressée à l’ensemble des fidèles, fixant une position de référence sur des questions sociales, morales ou théologiques. Dans ce texte de 130 pages, Léon XIV avance que l’IA ne peut « être considérée comme moralement neutre ».
Le pape augustinien insiste sur la nécessité d’un code éthique commun sur l’IA ainsi que sur le rôle crucial de l’éducation pour apprendre à en maîtriser les risques. Aujourd’hui, « le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques » qui « fixent les conditions d’accès, les règles de visibilité et les possibilités de participation », regrette-t-il.
Citant Platon, JRR Tolkien, Picasso ou encore Beethoven pour leur contribution à lutter contre la déshumanisation, le pape américain fustige aussi « les nouvelles formes d’esclavage » nées pour extraire les ressources nécessaires à l’utilisation de l’IA et appelle à « des solutions technologiques plus durables afin de réduire l’impact sur l’environnement ». « Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s’interrompe pas », dénonce-t-il.
Même impact dans le monde que « Laudato Si’ » ?
L’évêque de Rome en profite pour demander « sincèrement pardon » pour le retard avec lequel l’Église a condamné « le fléau de l’esclavage » au cours de l’Histoire.
Au-delà des enjeux technologiques, le pape s’inquiète d’un risque de « déshumanisation », mettant en garde contre une vision de l’humain réduit à ses performances ou à des données exploitées par les machines.
Depuis son élection il y a un an, le premier pape nord-américain de l’Histoire a multiplié les avertissements face aux dangers de l’IA, en soulignant la nécessité d’une « alphabétisation numérique ».
Les experts estiment que l’impact de Magnifica Humanitas pourrait être comparable à celui de l’encyclique Laudato Si’, manifeste du pape François sur l’écologie intégrale qui avait, dès sa publication en 2015, entraîné une vague de réactions dans le monde.
(source: huffingtonpost.fr)
Anthropic bloque l’utilisation de son IA par le Pentagone pour la « surveillance intérieure de masse » et les « armes complètement autonomes »
L’administration Trump avait donné jusqu’à vendredi à Dario Amodei, patron de l’entreprise, pour qu’il ouvre sans contraintes son modèle Claude. Ce dernier a rejeté la demande, affirmant que « dans certains cas précis (…) l’IA peut saper, plutôt que défendre, les valeurs démocratiques ».
Pete Hegseth, le secrétaire à la défense de Donald Trump, avait donné jusqu’à vendredi 27 février 17 heures à Dario Amodei, PDG d’Anthropic, pour qu’il permette au Pentagone d’utiliser sans contraintes son modèle d’intelligence artificielle (IA) Claude. La réponse à l’ultimatum est tombée dès jeudi après-midi : c’est non. « Ces menaces ne modifient pas notre position : nous ne pouvons en conscience accéder à leur demande », écrit M. Amodei en conclusion d’un long communiqué.
« Je crois profondément en l’importance existentielle de l’utilisation de l’IA pour défendre les Etats-Unis et les autres démocraties, et pour vaincre nos adversaires autocratiques. C’est pourquoi Anthropic a œuvré de manière proactive pour déployer ses modèles auprès du département de la guerre [le nouveau nom du ministère de la défense américain] et des services de renseignement », écrit le dirigeant, mais « dans certains cas précis, nous pensons que l’IA peut saper, plutôt que défendre, les valeurs démocratiques ».
L’entrepreneur entend continuer d’exclure deux domaines pour l’emploi de son IA, la « surveillance intérieure de masse » et les « armes complètement autonomes ».
Pourquoi l’Intelligence Artificielle pourrait « MENACER » la Science ,
Vous savez, il y a une question qui me hante depuis quelque temps. Une question que la plupart des gens ne prennent pas le temps de considérer vraiment. On nous dit que l’intelligence artificielle va révolutionner la science. Qu’elle va accélérer les découvertes, résoudre des problèmes que nous n’arrivons pas à résoudre.
Mais voici ce qui m’intrigue. Quand on regarde vraiment ce que cela implique, quand on examine la nature même de ce que nous appelons la science, on commence à se poser une question très inconfortable. L’intelligence artificielle pourrait-elle menacer la science elle-même ?
Avant que vous pensiez que je suis un technophobe, laissez-moi être clair. Je suis physicien. Je travaille au Commissariat à l’énergie atomique. Je crois en l’évidence. Je crois aux mathématiques. Je crois à la méthode scientifique.
Et c’est précisément pour cela que cette question me fascine. Parce que quand on fait les calculs, quand on examine les défis philosophiques, on se rend compte de quelque chose de troublant. L’IA peut prédire, mais peut-elle vraiment comprendre ?
Expérience – Une IA menteuse et manipulatrice : « Elle choisit la nocivité pour l’Homme plutôt que l’échec »
Ce lundi 30 juin, les résultats des tests éthiques moraux effectués sur l’IA démontrant la défaillance de sa capacité en matière de gestion d’entreprise ont été abordés par Anthony Morel, dans Culture IA.
Jusqu’où ira l’intelligence artificielle ? On en a déjà un aperçu et le résultat est très inquiétant. Les derniers modèles, aux États-Unis, ne se contentent plus d’obéir aux ordres. Deux intelligences artificielles ont menti et tenté de manipuler leurs créateurs. Mais que s’est-il réellement passé ?
IA : ces métiers qui disparaissent, et ceux – surprenants – qui émergent
9 000 licenciements sont annonçés chez Microsoft, soit moins de 4 % des effectifs. L’intelligence artificielle poursuit sa course folle, avec des percées dans la recherche. Mais une inquiétude monte : celle d’une vague de destructions d’emplois, notamment parmi les cadres. Sommes-nous à l’aube d’un “bain de sang social” ou d’un nouveau siècle des Lumières ? Faut-il se reconvertir plombier, apprendre à parler aux animaux ou explorer d’autres nouveaux métiers aussi surprenants qu’inattendus ?
Ce Robot chinois à intelligence artificielle sera le premier au monde à remplacer les Humains – … et celui d’Elon Musk Optimus?
La Chine a dévoilé son robot à intelligence artificielle le plus avancé à ce jour — et on l’appelle déjà l’avenir du remplacement des humains ! Cette machine révolutionnaire est conçue pour exécuter des tâches complexes, apprendre de manière autonome et interagir comme une véritable personne.
Elon Musk LEAKED This Is The Way Tesla Bot Gen 3 Can Do Home Tasks During 10 Hours! That’s Insane!
Quelle place pour l’IA à l’école ? – Le débat du 7/10
Éducation et IA : les mesures envisagées par le gouvernement expliqué par Élisabeth Borne
Élisabeth Borne était en visite en Normandie ce vendredi 7 février. Sur le plateau de France 3 Normandie, nous avons abordé avec la ministre de l’éducation, de l’enseignement supérieur et de la recherche le sujet de l’intelligence artificielle. La question clé : comment contrôler cette technologie et ses possibles dérives lorsque cela touche à l’éducation ?
IA : Elon Musk propose près de 100 milliards de dollars pour prendre le contrôle d’OpenAI
Selon le Wall Street Journal, le consortium emmené par l’homme le plus riche du monde aurait formulé son offre lundi au conseil d’administration d’OpenAI qui a refusé.
Un groupe d’investisseurs dirigé par Elon Musk tenterait de racheter l’organisation à but non lucratif qui contrôle OpenAI, d’après le Wall Street Journal, signe que le patron de Tesla et proche de Donald Trump n’a pas dit son dernier mot dans le conflit qui l’oppose au créateur de ChatGPT.
Selon le quotidien économique, le consortium emmené par le milliardaire a proposé 97,4 milliards de dollars (environ 94,48 milliards d’euros) lundi au conseil d’administration pour l’acquisition de l’entité. Cette offre non sollicitée arrive alors que Sam Altman, le patron d’OpenAI, essaie de lever des fonds et de transformer sa start-up en société à but lucratif.
«Non merci mais nous rachèterons Twitter pour 9,74 milliards de dollars si tu veux», a écrit Sam Altman lundi sur X, le réseau social qu’Elon Musk a ainsi rebaptisé après l’avoir acheté pour 44 milliards. «Escroc», a répondu l’homme le plus riche du monde.
Critiques de Stargate
Elon Musk, qui fait partie des cofondateurs d’OpenAI, s’en prend régulièrement à Sam Altman, à qui il reproche notamment d’avoir dévoyé la mission initiale de la start-up, axée sur un développement raisonné de l’IA. Il est lui-même partie prenante dans la course à l’intelligence artificielle (IA), notamment avec sa start-up d’IA générative, xAI, lancée en 2023. Les deux hommes se font face dans un procès.
IA – Cédric Villani : « C’est une ambition européenne qu’il faut pour l’intelligence artificielle »
Cédric Villani, mathématicien, lauréat de la médaille Fields, ancien député, est l’invité de l’Atelier Politique. Il répond aux questions de Frédéric Rivière.
« l’IA va s’échapper et nous tuer » : L’interview CHOC du Dr Kaku
« … le monde du futur sera semblable à la mythologie, un monde de « dieux », nos arrières-arrières-arrières petits-enfants vivront dans un monde où nous pourrons contrôler la vie … »
Elon Musk: « le monstre IA qui changera l’humanité »
00:00 Elon Musk vient de créer le PLUS PUISSANT superordinateur au monde
00:49 Un BUNKER SECRET au coeur du Tennessee
01:26 100 000 cartes graphiques à 45 000€ pièce
02:21 À L’INTÉRIEUR du monstre : les 4 salles secrètes de Colossus
03:17 Comment refroidir la bête qui pourrait faire fondre une ville
04:44 Un design unique qui fait trembler la concurrence
05:50 Des EXAOCTETS de données : un stockage plus grand que tout Internet
06:54 Le génie d’Elon : Des batteries Tesla pour une puissance DÉMESURÉE
08:52 GROK : L’IA qui voit tout et comprend tout
09:55 Les CHIFFRES VERTIGINEUX : Des milliards investis dans le projet
11:55 Le VÉRITABLE OBJECTIF : Créer une IA plus intelligente que l’humanité
13:05 Une course contre la montre : Elon Musk va-t-il sauver ou détruire l’humanité ?
L’IA « PROGRAMMABLE LIFE » a simulé 500 millions d’années d’évolution pour créer des protéines