Le Parlement californien adopte une loi critiquée pour encadrer l'IA

La législation californienne visant à réduire les risques liés à l'intelligence artificielle (IA) a été votée ce mercredi par la chambre basse du Parlement de l'État de Californie.

Cette proposition obligerait les entreprises à tester leurs modèles et à divulguer publiquement leurs protocoles de sécurité.

Le but est d'empêcher que les modèles soient manipulés pour, par exemple, détruire un réseau électrique d'État ou contribuer à la fabrication d'armes chimiques (ces scénarios, selon les experts, pourraient tout à fait voir le jour, compte tenu de la rapidité des progrès dans le secteur).

Cette première législation nationale pourrait ouvrir la voie à une réglementation américaine globale sur l'IA.

Vers une réglementation américaine ?

La mesure a été adoptée de justesse par l'Assemblée californienne et doit encore être votée par le Sénat avant d'arriver sur le bureau du gouverneur.

Le gouverneur de Californie, Gavin Newsom, aura alors jusqu'à la fin du mois de septembre pour décider s'il signe la loi - qui fait partie des centaines de textes votés cette semaine - ou bien s'il y met son veto (ou encore, éventuellement, s'il permet qu'elle devienne une loi sans sa signature).

Les partisans du projet de loi ont déclaré qu'ils établiraient certaines des règles basiques de sécurité pour les modèles d'IA à grande échelle, aux États-Unis.

Précisons que ce projet de loi vise les systèmes qui représentent plus de 100 millions de dollars (90 millions d'euros) de données. Aucun modèle d'IA actuel n'a, à ce jour, atteint ce seuil.

Google et Meta opposés à la loi

OpenAI, Google et Meta se sont opposés à la loi, mais la société d'IA Anthropic a déclaré que les « avantages de la loi dépassaient probablement ses inconvénients».

La Californie abrite 35 des 50 plus grandes entreprises d'IA au monde et pourrait bientôt déployer des outils d'IA générative pour résoudre des problèmes d'encombrement d'autoroutes et de sécurité routière, notamment.

Le gouverneur de Californie, Gavin Newsom, a refusé de se prononcer sur la mesure au début de l'été, mais avait mis en garde contre une surréglementation de l'IA.