Le projet de loi 1047 du Sénat de Californie, officiellement intitulé « Safe and Secure Innovation for Frontier Artificial Intelligence Models Act », était une loi d'État proposée visant à réglementer le développement et le déploiement de systèmes d'intelligence artificielle à grande échelle. Présenté par le sénateur d'État Scott Wiener en février 2024, le projet de loi cherchait à imposer des exigences de sécurité aux développeurs de modèles d'IA de pointe - ceux entraînés avec une puissance de calcul significative - afin de prévenir des préjudices catastrophiques tels que des cyberattaques ou la création d'armes biologiques. Le projet de loi a été adopté par la législature de l'État de Californie en août 2024, mais a été opposé par le gouverneur Gavin Newsom le 29 septembre 2024, faisant de la Californie le premier État américain à tenter une législation complète sur la sécurité de l'IA, bien que le veto ait laissé le paysage réglementaire non résolu.
Les dispositions centrales du projet de loi ciblaient les développeurs de modèles d'IA entraînés avec plus de 10^26 opérations en virgule flottante (FLOPs), un seuil qui, à l'époque, ne couvrait que les systèmes les plus avancés des principaux laboratoires. Il exigeait que ces développeurs mettent en œuvre un cadre écrit de sécurité et de sûreté, effectuent des tests avant déploiement et garantissent que les modèles puissent être entièrement arrêtés en cas d'urgence. Le projet de loi établissait également une nouvelle agence d'État, la Frontier Model Division, au sein du département de la technologie, pour faire respecter la conformité et imposer des pénalités en cas de violation. Notamment, il incluait une clause de protection des lanceurs d'alerte pour les employés signalant des préoccupations de sécurité, et il exigeait que les développeurs certifient annuellement leur conformité auprès du procureur général de l'État.
Parcours législatif et amendements clés
Le SB 1047 a subi des révisions importantes lors de son passage au Sénat et à l'Assemblée de Californie. Initialement présenté en février 2024, le projet de loi a été amendé en avril pour restreindre sa portée, se concentrant sur les modèles dont les coûts d'entraînement dépassent 100 millions de dollars. Des amendements ultérieurs en août ont clarifié que le projet de loi ne s'appliquerait pas aux modèles open-source, sauf s'ils étaient affinés ou modifiés pour atteindre le seuil, et il exemptait les modèles utilisés uniquement à des fins de recherche ou de sécurité nationale. Le projet de loi incluait également une exigence de « kill switch », obligeant les développeurs à mettre en œuvre une capacité d'arrêt complet du fonctionnement du modèle, et il exigeait la création d'un « cadre de sécurité » qui serait accessible au public.
Le projet de loi a été adopté par le Sénat le 21 mai 2024, avec un vote de 32 contre 1, et par l'Assemblée le 28 août 2024, avec un vote de 45 contre 11. La version finale a été approuvée par le Sénat le 30 août 2024 et envoyée au gouverneur Newsom. Tout au long du processus, le projet de loi a attiré un lobbying intense de la part des partisans et des opposants, avec des entreprises technologiques et des institutions académiques pesant sur son impact potentiel sur l'innovation.
Soutien et opposition
Les partisans du SB 1047, y compris des chercheurs en IA de premier plan tels que Yoshua Bengio, Geoffrey Hinton et Stuart Russell, ont fait valoir que le projet de loi était une précaution nécessaire contre les risques existentiels potentiels posés par l'IA avancée. Ils ont soutenu que les engagements volontaires de l'industrie étaient insuffisants et que la réglementation gouvernementale était essentielle pour garantir la sécurité. Le projet de loi était également soutenu par des syndicats, des groupes de défense des consommateurs et certains dirigeants technologiques, qui y voyaient un moyen de tenir les développeurs d'IA responsables des préjudices.
Les opposants, y compris de grandes entreprises d'IA comme OpenAI, Anthropic et Google DeepMind, ainsi que des groupes commerciaux technologiques et certains universitaires, ont fait valoir que le projet de loi était trop large et étoufferait l'innovation. Ils ont affirmé que le seuil de FLOPs était arbitraire et que le projet de loi imposerait des coûts de conformité lourds, en particulier pour les petites startups. Certains critiques ont également soutenu que l'accent mis sur les risques catastrophiques hypothétiques détournait l'attention de préjudices plus immédiats comme les biais et la désinformation. Notamment, Anthropic a initialement exprimé des préoccupations mais a ensuite offert une position plus favorable, suggérant des amendements partiellement incorporés.
Veto du gouverneur Newsom et justification
Le 29 septembre 2024, le gouverneur Gavin Newsom a opposé son veto au SB 1047, citant des préoccupations concernant sa portée « trop large » et son potentiel à « étouffer » l'innovation. Dans son message de veto, Newsom a reconnu l'importance de la sécurité de l'IA mais a fait valoir que l'accent mis sur la taille des modèles et les seuils de calcul n'était pas l'approche la plus efficace. Il a noté que le projet de loi pourrait imposer des exigences « irréalisables » aux développeurs et qu'il ne traitait pas adéquatement l'ensemble des risques liés à l'IA, tels que la discrimination algorithmique et le déplacement d'emplois. Newsom a plutôt appelé à un cadre réglementaire plus équilibré, soulignant les décrets exécutifs en cours et les collaborations avec des experts pour développer des politiques fondées sur des preuves.
Le veto a suscité des réactions mitigées. Les partisans ont exprimé leur déception, le sénateur Wiener promettant de continuer le combat lors des prochaines sessions. Les opposants ont salué la décision, des groupes de l'industrie technologique affirmant que le veto protégeait le leadership de la Californie en matière d'IA. Le veto a également suscité un débat sur le rôle de la réglementation étatique par rapport à fédérale, car le Congrès américain n'avait pas encore adopté de législation complète sur l'IA.
Impact et conséquences
Après le veto, la question de la réglementation de l'IA est restée un sujet important en Californie et au niveau national. En octobre 2024, le gouverneur Newsom a signé plusieurs autres projets de loi liés à l'IA, y compris des mesures traitant des deepfakes et de l'utilisation de l'IA dans les soins de santé, mais il a refusé d'adopter une législation de sécurité plus large. Le veto a également influencé les discussions dans d'autres États, certains législateurs envisageant des projets de loi similaires mais ajustant leurs approches en fonction de l'expérience californienne.
Le débat sur le SB 1047 a mis en évidence les défis de la réglementation d'une technologie en évolution rapide. Les partisans du projet de loi ont fait valoir qu'attendre une action fédérale laisserait le public sans protection, tandis que les opposants ont soutenu qu'une réglementation prématurée pourrait entraver des développements bénéfiques. L'héritage du projet de loi comprend la sensibilisation aux problèmes de sécurité de l'IA et l'incitation des entreprises à adopter des engagements volontaires de sécurité, tels que ceux pris au sommet sur la sécurité de l'IA à la Maison Blanche en 2023.
Contexte plus large de la réglementation de l'IA
Le SB 1047 faisait partie d'un mouvement mondial plus large vers la réglementation de l'IA. La loi sur l'IA de l'Union européenne, finalisée en 2024, a adopté une approche basée sur les risques, catégorisant les applications d'IA par niveau de risque et imposant des obligations en conséquence. En revanche, le SB 1047 se concentrait spécifiquement sur les modèles de pointe, une distinction que certains experts ont jugée plus ciblée mais aussi plus arbitraire. L'échec du projet de loi a souligné la difficulté d'élaborer une législation qui équilibre innovation et sécurité, un défi qui continue d'occuper les décideurs politiques dans le monde entier.
Considérations techniques et éthiques
La dépendance du projet de loi aux seuils de FLOPs a soulevé des questions techniques sur la manière de mesurer les capacités de l'IA. Les critiques ont noté que le calcul n'est pas un proxy parfait pour le risque, car des modèles plus petits peuvent parfois être affinés pour atteindre des capacités dangereuses. Le projet de loi a également abordé des questions éthiques, telles que la responsabilité des développeurs pour les utilisations en aval de leurs modèles, et la tension entre transparence et sécurité nationale. Ces considérations restent centrales dans les débats en cours sur la gouvernance de l'IA.
Perspectives futures
Au début de 2025, aucun projet de loi similaire n'a été adopté en Californie, mais le sénateur Wiener a indiqué qu'il réintroduirait une législation lors de la prochaine session, éventuellement avec des critères révisés. Pendant ce temps, le gouvernement fédéral a pris des mesures pour aborder la sécurité de l'IA, y compris un décret exécutif du président Biden en octobre 2023 et la création de l'Institut américain de sécurité de l'IA. Le résultat de ces efforts façonnera probablement l'avenir de la réglementation de l'IA aux États-Unis, l'expérience californienne servant de récit d'avertissement ou de modèle, selon la perspective.