Le Senate Bill 1047 de Californie, intitulé Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, était une loi d'État proposée visant à réglementer le développement et le déploiement de systèmes d'intelligence artificielle à grande échelle. Présenté par le sénateur d'État Scott Wiener en février 2024, le projet de loi cherchait à imposer des exigences de sécurité aux développeurs de modèles d'IA dépassant certains seuils de calcul. Après avoir été adopté par la législature de l'État de Californie en août 2024, le projet de loi a été opposé par le gouverneur Gavin Newsom le 29 septembre 2024, marquant un moment important dans le débat en cours sur la réglementation de l'IA aux États-Unis.
Ce veto a été l'aboutissement d'intenses activités de lobbying et de débats publics, suscitant des réactions de la part des grandes entreprises technologiques, des chercheurs en IA et des groupes de défense. Les partisans ont fait valoir que le projet de loi était nécessaire pour prévenir les préjudices catastrophiques potentiels de l'IA avancée, tandis que les opposants, dont de nombreux acteurs de l'industrie technologique, ont soutenu qu'il étoufferait l'innovation et imposerait des obligations irréalistes. Les suites du veto ont conduit à de nouvelles discussions sur des approches réglementaires alternatives aux niveaux étatique et fédéral.
Legislative Background
Le sénateur Scott Wiener a présenté le SB 1047 en février 2024, dans le but d'établir un cadre réglementaire pour les « modèles d'IA de pointe » - ceux entraînés avec une puissance de calcul dépassant 10^26 opérations en virgule flottante (FLOPs). Le projet de loi exigeait des développeurs qu'ils mettent en œuvre des protocoles de sécurité, notamment la capacité d'arrêter rapidement les modèles, et qu'ils signalent les incidents graves à une nouvelle agence d'État. Il imposait également aux développeurs de mener des tests avant le déploiement et de s'assurer que leurs modèles ne puissent pas être facilement modifiés pour causer des pertes massives ou permettre des cyberattaques.
Le projet de loi a subi plusieurs amendements au cours de son parcours législatif. Notamment, un amendement d'août 2024 a réduit la portée en supprimant les dispositions qui auraient créé une nouvelle agence d'État, confiant plutôt la supervision au département de la technologie. Un autre amendement a exempté les modèles développés principalement à des fins académiques ou de recherche, à condition qu'ils ne soient pas utilisés pour un déploiement commercial.
Legislative Passage
Le SB 1047 a été adopté par l'Assemblée de l'État de Californie le 28 août 2024, par un vote de 41 contre 16, et par le Sénat de l'État le 30 août 2024, par un vote de 30 contre 8. Le projet de loi a bénéficié d'un soutien bipartisan, certains républicains se joignant aux démocrates en sa faveur. Cette adoption a été considérée comme un moment historique, car la Californie abrite de nombreuses entreprises d'IA de premier plan, notamment OpenAI, Anthropic et Google DeepMind.
Governor's Veto
Le 29 septembre 2024, le gouverneur Gavin Newsom a opposé son veto au SB 1047, publiant une déclaration exprimant son soutien à l'innovation en matière d'IA mais critiquant l'approche du projet de loi. Newsom a fait valoir que l'accent mis par le projet de loi sur la taille des modèles et la puissance de calcul était trop étroit et pourrait donner un faux sentiment de sécurité, tout en dissuadant potentiellement le développement d'applications d'IA bénéfiques. Il a souligné la nécessité d'un cadre réglementaire plus flexible et fondé sur des données probantes, capable de s'adapter à l'évolution rapide de la technologie.
Ce veto n'était pas entièrement inattendu, car Newsom avait auparavant fait part de ses préoccupations concernant la surréglementation. Dans son message de veto, il a noté que le projet de loi ne tenait pas compte des diverses applications de l'IA et pourrait imposer des exigences lourdes aux petits développeurs. Il a également évoqué les efforts fédéraux en cours et le décret exécutif de la Californie sur l'IA, signé en septembre 2023, comme des cadres plus appropriés pour traiter ces questions.
Reactions to the Veto
Les réactions au veto ont été nettement divisées. Les partisans du projet de loi, notamment le sénateur Wiener et divers groupes de défense de la sécurité de l'IA, ont exprimé leur déception. Wiener a qualifié ce veto de recul pour la sécurité publique et a promis de continuer à faire pression pour une réglementation. Certains chercheurs en IA, comme Yoshua Bengio (bien que non directement lié, il est une figure éminente), avaient publiquement soutenu le projet de loi, arguant que des mesures de précaution étaient essentielles.
Les opposants, dont de nombreux acteurs de l'industrie technologique, ont salué ce veto. Des entreprises comme OpenAI et Anthropic avaient fait pression contre le projet de loi, arguant qu'il entraverait l'innovation et que les seuils étaient arbitraires. Les sociétés de capital-risque et les défenseurs des startups ont également accueilli favorablement cette décision, affirmant que le projet de loi aurait chassé les entreprises d'IA de Californie.
Aftermath and Regulatory Landscape
Le veto n'a pas mis fin au débat sur la réglementation de l'IA en Californie. Le sénateur Wiener a indiqué son intention de présenter une législation révisée lors de la prochaine session, en intégrant les retours des parties prenantes. Pendant ce temps, le gouverneur Newsom a réuni un groupe d'experts pour étudier les risques de l'IA et formuler des recommandations pour les futures politiques. L'État a également continué à mettre en œuvre son décret exécutif, qui se concentre sur l'approvisionnement responsable en IA et l'évaluation des risques.
Au niveau fédéral, le veto a intensifié les appels en faveur d'un cadre réglementaire national pour l'IA. L'administration Biden avait publié un décret exécutif sur l'IA en octobre 2023, mais une législation complète reste en attente au Congrès. L'absence d'action fédérale a conduit à une mosaïque d'initiatives étatiques, l'approche de la Californie étant étroitement surveillée comme modèle potentiel.
Industry and Academic Perspectives
Le veto a suscité des discussions au sein de la communauté de l'IA sur les meilleurs moyens de garantir la sécurité sans entraver le progrès. Certains chercheurs soutiennent que l'autorégulation et les engagements volontaires, comme ceux pris par les principaux laboratoires pour suspendre le développement des modèles les plus puissants, sont insuffisants. D'autres estiment que la réglementation devrait se concentrer sur des applications spécifiques à haut risque plutôt que sur les modèles eux-mêmes.
Anthropic et OpenAI ont tous deux mis en place des équipes internes de sécurité et ont appelé à une supervision gouvernementale, mais ils se sont opposés aux dispositions spécifiques du SB 1047. Google DeepMind a également été actif dans la recherche sur la sécurité de l'IA, mais n'a pas pris position publiquement sur le projet de loi. Des institutions académiques comme Stanford AI Lab et Berkeley AI Research ont contribué au débat par leurs recherches et leurs recommandations politiques.
Future Prospects
Au début de 2025, aucun nouveau projet de loi d'État sur l'IA n'a été adopté en Californie, mais les discussions se poursuivent. Le débat autour du SB 1047 a mis en évidence les défis de la réglementation d'une technologie qui évolue rapidement et qui a des applications étendues. L'issue des futurs efforts législatifs dépendra de l'équilibre entre innovation et sécurité publique, ainsi que de la capacité à élaborer des règles à la fois efficaces et flexibles.
En l'absence de réglementation contraignante, de nombreux développeurs d'IA ont adopté des cadres de sécurité volontaires, comme le « cadre de sécurité de pointe » proposé par Anthropic. Ces efforts, bien que non juridiquement contraignants, représentent un pas vers un développement responsable. Le veto du SB 1047 est ainsi devenu une étude de cas sur l'interaction complexe entre technologie, politique et opinion publique.