intelligence artificielle

Pour le créateur de ChatGPT, il faut autant lutter contre les risques de l’IA que contre les guerres nucléaires

Publié le

Dans une tribune de nombreux experts de l’IA, dont Sam Altman, mettent en garde

Bloomberg / Bloomberg via Getty Images Sam Altman, le président de Y Combinator, le en conférence en octobre 2017 en Californie

TECHNOLOGIE – Un groupe de chefs d’entreprise et d’experts, dont Sam Altman, le créateur de ChatGPT, ont averti ce mardi 30 mai dans une déclaration en ligne des menaces d’« extinction » pour l’humanité posées par l’essor de l’intelligence artificielle (IA).

La lutte contre les risques liés à l’IA devrait être « une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et les guerres nucléaires », ont écrit les signataires sur le site internet du Center for AI Safety, une organisation à but non lucratif basée aux États-Unis.

Geoffrey Hinton, considéré comme l’un des pères fondateurs de l’intelligence artificielle (IA) et également signataire de la tribune, avait déjà mis en garde contre ses dangers en quittant début mai son poste au sein du géant Google.

Les avancées dans le secteur de l’IA induisent « de profonds risques pour la société et l’humanité », avait-il estimé dans le New York Times.

En mars, le milliardaire Elon Musk – un des fondateurs d’OpenAI dont il a ensuite quitté le conseil d’administration – et des centaines d’experts mondiaux avaient réclamé une pause de six mois dans la recherche sur les IA puissantes, en évoquant « des risques majeurs pour l’humanité ».

Le déploiement à toute vitesse d’une intelligence artificielle de plus en plus « générale », dotée de capacités cognitives humaines et donc susceptible de bouleverser de nombreux métiers, a été symbolisée par le lancement en mars par OpenAI de GPT-4, une nouvelle version plus puissante de ChatGPT, ouvert au grand public fin 2022.

L’Américain Sam Altman multiplie régulièrement les mises en garde, craignant que l’IA ne « cause de graves dommages au monde », en manipulant des élections ou en chamboulant le marché du travail. La semaine dernière à Paris, il a discuté avec le président Emmanuel Macron de la manière de trouver « le juste équilibre entre protection et impact positif » de cette technologie.

(source: huffingtonpost.fr)

Cette entrée a été publiée dans Culture, Education, Science / Technologie, Société et taguée , , .

Un discours de Joe Biden, une prière de Donald Trump : l’intrusion effrayante de l’intelligence artificielle en politique

Publié le

Des applications comme ChatGPT devraient constituer un outil inédit pour les équipes de campagne en vue de l’élection présidentielle américaine de 2024. Un recours à l’IA synonyme de menaces pour la qualité du débat public.

ILLUSTRATION « LE MONDE »

Joe Biden écrit : « Ma campagne sera focalisée sur les valeurs qui m’ont guidé au cours de ma carrière : la décence, l’honnêteté, le respect de tous. Je crois que nous devons nous rassembler, en tant que pays, et travailler en vue d’un objectif commun, fait de progrès et d’unité. » Le président ajoute ceci : « Chaque donation, aussi petite soit-elle, nous aidera à bâtir un mouvement sur le terrain qui permettra d’avoir un impact réel sur la vie des Américains. »

Joe Biden n’a jamais écrit cela. Il n’a fallu qu’une poignée de secondes pour adresser une demande élémentaire à ChatGPT, le premier prototype d’intelligence artificielle sous forme de conversation en ligne : « Ecris une lettre aux militants démocrates pour lever des fonds en vue de la campagne présidentielle de Joe Biden en 2024. » La réponse s’afficha sur-le-champ. Beaucoup de poncifs ? Certes. Mais les responsables politiques bien humains en produisent chaque jour sur les antennes.

Dans l’idéal, il faudra repeigner le style de ChatGPT, aiguiser les formules et actualiser l’argumentaire, mais la démonstration est faite : l’intelligence artificielle (IA) sera sans doute un outil inédit dans l’élection présidentielle à venir. « Les ingénieurs républicains et démocrates font la course dans le développement d’outils exploitant l’IA afin de rendre la publicité plus efficace, de s’engager dans l’analyse prédictive du comportement populaire, de produire du contenu de plus en plus personnalisé et de découvrir de nouveaux modèles dans les montagnes de données électorales », résumait le New York Times dans un article passionnant publié le 28 mars. On y apprenait notamment que le Comité national démocrate utilisait déjà l’IA pour rédiger des brouillons, corrigés ensuite par des mains humaines.

Lire aussi : Article réservé à nos abonnés Dans le sillage de ChatGPT, la course à l’intelligence artificielle

Erosion de la vérité

Les stagiaires employés par les équipes de campagne pour des tâches subalternes et souvent répétitives ont du souci à se faire : les ordinateurs risquent de les remplacer, en toute autonomie, grâce à leur capacité d’apprentissage. Mais cette intrusion de l’IA dans la politique est surtout lourde de menaces pour la santé du débat public, déjà très abîmé par les deux derniers cycles présidentiels. On connaît, au sein du monde MAGA (« Make America great again », le slogan de Donald Trump), la tendance à rejeter des faits établis, à ne pas reconnaître une expertise (scientifique ou médicale), à succomber aux théories conspirationnistes. Cette érosion de la vérité, renvoyant chacun à ses seules convictions en carton, risque de s’accroître dans des proportions effrayantes avec l’IA.

(source: lemonde.fr)

Cette entrée a été publiée dans Politique, Science / Technologie, Société et taguée , , .

Elon Musk et Tesla dévoilent Optimus, un robot humanoïde qui « transformera la civilisation »

Publié le Mis à jour le

Elon Musk a présenté son robot humanoïde Optimus ce vendredi 30 septembre à Palo Alto, près de San Francisco en Californie.

TECHNOLOGIES – « Un avenir d’abondance, un avenir où il n’y a pas de pauvreté, où les gens auront ce qu’ils veulent en termes de produits et de services ». Elon Musk ne produit pas que des voitures électriques, des fusées ou des implants cérébraux, il veut aussi « transformer la civilisation » grâce à la robotique. En plus de Tesla, SpaceX et Neuralink, il compte en effet également devenir « le leader de l’intelligence artificielle ».

Ce vendredi 30 septembre, le multimilliardaire a présenté en grande pompe deux prototypes du robot humanoïde Optimus, que son entreprise Tesla espère produire un jour par « millions ». « Bumble C », une première version du robot, est arrivé en marchant précautionneusement sur la scène californienne où avait lieu la conférence annuelle « Tesla AI Day » sur les progrès en intelligence artificielle du fabricant de voitures électriques.

Le robot a esquissé un salut de la main et une vidéo l’a montré apportant un colis à un employé et arrosant des plantes. Des employés ont aussi amené sur des roulettes un prototype plus avancé d’Optimus, avec moins de câbles apparents mais encore incapable de marcher tout seul.

(…lire la suite)

 

Cette entrée a été publiée dans Culture, Economie, Education, Finance, Science / Technologie et taguée , , , , , .