Gavin Newsom, gouverneur de la Californie, a jusqu'au 30 septembre pour signer la loi ou lui opposer son veto. Sa décision fera forcément des heureux et des déçus: le texte divise les entreprises, les chercheurs et même les élus démocrates.

«Beaucoup d'entre nous au Congrès pensons que la loi SB 1047 est bien intentionnée mais mal informée» a déclaré récemment Nancy Pelosi, élue de Californie à Washington et l'une des voix les plus influentes du parti.

«Nous voulons que la Californie soit à la pointe de l'IA d'une manière qui protège les consommateurs, les données, la propriété intellectuelle et bien plus encore. (...) SB 1047 nuit à cette fin plus qu'elle n'y contribue», a-t-elle ajouté.

Baptisée «Loi pour une innovation sûre dans les modèles d'IA pionniers», elle vise à empêcher les grands modèles de causer des catastrophes majeures, entraînant la mort d'un grand nombre de personnes ou des incidents de cybersécurité conséquents.

Scott Wiener a assoupli le texte d'origine: il oblige les développeurs de grands modèles d'IA à tester leurs systèmes et à simuler des cyberattaques, mais accorde moins de pouvoir qu'initialement prévu aux autorités californiennes pour les obliger à rendre des comptes ou les poursuivre en justice.

Plusieurs entreprises du secteur ont fait part de leur opposition, OpenAI en tête. Le créateur de ChatGPT craint une fuite des innovateurs de l'Etat américain et de sa fameuse Silicon Valley, et préférerait une législation nationale. Son concurrent Anthropic estime en revanche que les avantages de la nouvelle loi «l'emportent probablement sur ses coûts».

Plus surprenant, le texte a aussi obtenu le soutien d'Elon Musk, souvent remonté contre les autorités de nombreux pays. Le patron de Tesla, X et de la start-up d'IA générative xAI, pense que les risques que l'IA fait courir au public justifient une réglementation. «Il s'agit d'une décision difficile qui va mécontenter certaines personnes», a-t-il déclaré lundi.