Silicon Valley
Le gouverneur de Californie met son veto à la loi sur la sécurité de l’IA
Le texte rendait les entreprises d’intelligence artificielle légalement responsables des dommages causés par leurs modèles.
Jusqu’à la dernière minute, les deux camps ont fait campagne dans la Silicon Valley. Dimanche soir 29 septembre, le gouverneur Gavin Newsom a tranché : il a mis son veto à un projet de loi qui visait à imposer les garde-fous les plus stricts aux grands modèles d’intelligence artificielle aux Etats-Unis.
Le texte SB 1047, ou « Loi pour une innovation sûre dans les modèles d’IA pionniers », avait divisé le monde des technologies, ainsi que la classe politique californienne. Bien qu’il ne soit pas aussi exigeant que la réglementation européenne, il rendait les entreprises d’intelligence artificielle légalement responsables des dommages causés par leurs modèles.
Il exigeait qu’elles intègrent un « interrupteur d’arrêt » (kill switch) pour désactiver leurs systèmes s’ils devenaient incontrôlables et causaient des dommages majeurs, tels que des pertes massives en vies humaines ou des dégâts matériels dépassant 500 millions de dollars (448 millions d’euros). Elon Musk s’y était déclaré favorable, au contraire de Mark Zuckerberg (Meta), de Sam Altman (OpenAI) ou du capital-risqueur pro-Trump Marc Andreessen.
Crainte d’« un effet dissuasif sur l’industrie »
Comme M. Musk, plusieurs des figures historiques de l’IA, à l’instar de Geoffrey Hinton et de Yoshua Bengio, approuvaient le texte. « Nous pensons que les modèles d’IA les plus puissants pourraient bientôt poser des risques graves, tels que l’accès accru aux armes biologiques et les cyberattaques contre les infrastructures essentielles », avait écrit M. Hinton dans une lettre adressée au gouverneur et cosignée par des dizaines d’anciens et actuels employés du secteur de l’IA.
Lors de la conférence annuelle du géant du logiciel Salesforce, le 24 septembre, à San Francisco, M. Newsom avait laissé poindre son scepticisme. D’ordinaire prompt à vanter les initiatives d’avant-garde prises par la Californie, notamment sur le climat ou la défense des consommateurs, il avait regretté que le projet sur la sécurité de l’IA se substitue au débat fédéral sur la question.
Il avait aussi exprimé la crainte qu’il ait « un effet dissuasif sur l’industrie ». « Nous dominons ce domaine, et je ne veux pas perdre cet avantage, » avait-il déclaré, soulignant que trente-deux des plus grandes entreprises d’intelligence artificielle du monde étaient situées en Californie. En matière de risques posés par l’IA, il avait indiqué essayer de s’en tenir à ceux qui sont démontrables par opposition à ceux qui sont hypothétiques. Le projet de loi ciblait les systèmes nécessitant plus de 100 millions de dollars pour être construits. Aucun modèle n’est parvenu à ce seuil, mais les pessimistes pensent qu’il pourrait être atteint rapidement.
Californie : les limites du modèle (des systèmes de valeur)
État à la diversité naturelle exceptionnelle, la Californie est également parmi les plus vulnérables, à l’image des mégafeux qui s’y multiplient, du risque sismique et du manque chronique d’eau. Enfin, la Californie est aussi une terre d’inégalités, où la hausse constante du coût de la vie repousse toujours plus loin les populations les plus modestes. La Californie raconte incontestablement quelque chose du rêve américain : la ruée vers l’or, le paradis hippie, puis des années plus tard, la réussite technologique de la Silicon Valley, mais aussi San Francisco, ville sanctuaire et éco responsable. Bref, la Californie, un symbole de l’Amérique des possibles. Un État américain pas comme les autres, qu’on a voulu visiter comme un pays, pour découvrir que le modèle californien connaît aussi ses limites.
D’anciens cadres de Facebook regrettent d’avoir contribué à son succès
Plusieurs anciens cadres du géant américain critiquent ouvertement le réseau social le plus utilisé au monde.
ls sont les mieux placés pour en parler : plusieurs anciens responsables de Facebook n’hésitent pas à dénoncer la dangerosité de Facebook, voire à bannir définitivement le réseau social de leur vie et de celle de leurs enfants. Le dernier en date ? Chamath Palihapitiya, ancien vice-président chargé de l’audience chez Facebook. « Vous ne le réalisez peut-être pas, mais vous êtes programmés« , a-t-il déclaré lors d’un débat organisé dans une école de commerce américaine.
« Nous avons créé des outils qui déchirent le tissu social »
Il éprouve même des remords à l’idée d’avoir contribué à développer Facebook et accroître son influence sur ses utilisateurs. « Je pense que nous avons créé des outils qui déchirent le tissu social », a-t-il avancé, expliquant que de son point de vue, les réseaux sociaux « sapent les fondamentaux du comportement des gens« . Il en est même venu à interdire à ses enfants d’utiliser « cette m…. ».
Parler avant qu’il ne soit trop tard
Un revirement radical qu’il n’est pas le seul à avoir effectué. Justin Rosenstein, l’ingénieur qui a créé le fameux bouton « j’aime » de Facebook, faisait part en octobre au Guardian des effets dévastateurs de l’addiction aux réseaux sociaux : « C’est très ordinaire pour l’humanité de créer des choses avec les meilleures intentions, avant qu’elles aient des conséquences négatives ».
TANIKO Madagascar 