O Projeto de Lei 1047 do Senado da Califórnia, intitulado Lei de Inovação Segura e Protegida para Modelos de Inteligência Artificial de Fronteira, foi uma lei estadual proposta com o objetivo de regulamentar o desenvolvimento e a implantação de sistemas de inteligência artificial em larga escala. Apresentado pelo senador estadual Scott Wiener em fevereiro de 2024, o projeto buscava impor requisitos de segurança aos desenvolvedores de modelos de IA acima de determinados limites computacionais. Após ser aprovado pela Legislatura Estadual da Califórnia em agosto de 2024, o projeto foi vetado pelo governador Gavin Newsom em 29 de setembro de 2024, marcando um momento significativo no debate contínuo sobre a regulamentação da IA nos Estados Unidos.
O veto foi o ápice de intenso lobby e debate público, atraindo respostas de grandes empresas de tecnologia, pesquisadores de IA e grupos de defesa. Os defensores argumentavam que o projeto era necessário para prevenir possíveis danos catastróficos decorrentes de IA avançada, enquanto os oponentes, incluindo muitos no setor de tecnologia, sustentavam que ele sufocaria a inovação e imporia obrigações irrealistas. O desfecho do veto levou a discussões renovadas sobre abordagens regulatórias alternativas nos níveis estadual e federal.
Contexto Legislativo
O senador Scott Wiener apresentou o SB 1047 em fevereiro de 2024, com o objetivo de estabelecer um quadro regulatório para "modelos de IA de fronteira" - aqueles treinados com poder computacional superior a 10^26 operações de ponto flutuante (FLOPs). O projeto exigia que os desenvolvedores implementassem protocolos de segurança, incluindo a capacidade de desligar prontamente os modelos, e relatassem incidentes graves a uma agência estadual recém-criada. Também determinava que os desenvolvedores realizassem testes pré-implantação e garantissem que seus modelos não pudessem ser facilmente modificados para causar baixas em massa ou permitir ataques cibernéticos.
O projeto passou por várias emendas durante sua jornada legislativa. Notavelmente, uma emenda em agosto de 2024 estreitou o escopo ao remover disposições que criariam uma nova agência estadual, atribuindo a supervisão ao Departamento de Tecnologia. Outra emenda isentou modelos desenvolvidos principalmente para fins acadêmicos ou de pesquisa, desde que não fossem usados para implantação comercial.
Aprovação Legislativa
O SB 1047 foi aprovado pela Assembleia Estadual da Califórnia em 28 de agosto de 2024, por votação de 41 a 16, e pelo Senado Estadual em 30 de agosto de 2024, por votação de 30 a 8. O projeto recebeu apoio bipartidário, com alguns republicanos se juntando aos democratas a favor. A aprovação foi vista como um momento marcante, pois a Califórnia abriga muitas das principais empresas de IA do mundo, incluindo OpenAI, Anthropic e Google DeepMind.
Veto do Governador
Em 29 de setembro de 2024, o governador Gavin Newsom vetou o SB 1047, emitindo uma declaração que expressava apoio à inovação em IA, mas criticava a abordagem do projeto. Newsom argumentou que o foco do projeto no tamanho do modelo e no poder computacional era estreito demais e poderia dar uma falsa sensação de segurança, enquanto potencialmente desencorajava o desenvolvimento de aplicações benéficas de IA. Ele enfatizou a necessidade de um quadro regulatório mais flexível e baseado em evidências que pudesse se adaptar à tecnologia em rápida evolução.
O veto não foi totalmente inesperado, pois Newsom havia sinalizado anteriormente preocupações sobre regulamentação excessiva. Em sua mensagem de veto, ele observou que o projeto não considerava as diversas aplicações da IA e poderia impor requisitos onerosos a desenvolvedores menores. Ele também apontou para os esforços federais em andamento e a ordem executiva da Califórnia sobre IA, assinada em setembro de 2023, como fóruns mais apropriados para abordar essas questões.
Reações ao Veto
As reações ao veto foram nitidamente divididas. Os apoiadores do projeto, incluindo o senador Wiener e vários grupos de defesa da segurança de IA, expressaram decepção. Wiener chamou o veto de um retrocesso para a segurança pública e prometeu continuar pressionando por regulamentação. Alguns pesquisadores de IA, como Yoshua Bengio (embora não diretamente vinculado, ele é uma figura proeminente), apoiaram publicamente o projeto, argumentando que medidas preventivas eram essenciais.
Os oponentes, incluindo muitos no setor de tecnologia, elogiaram o veto. Empresas como OpenAI e Anthropic haviam feito lobby contra o projeto, argumentando que ele prejudicaria a inovação e que os limites eram arbitrários. Firmas de capital de risco e defensores de startups também receberam bem a decisão, alegando que o projeto teria expulsado empresas de IA da Califórnia.
Consequências e Cenário Regulatório
O veto não encerrou o debate sobre a regulamentação da IA na Califórnia. O senador Wiener indicou planos de introduzir legislação revisada na próxima sessão, incorporando feedback das partes interessadas. Enquanto isso, o governador Newsom convocou um painel de especialistas para estudar os riscos da IA e fazer recomendações para políticas futuras. O estado também continuou a implementar sua ordem executiva, que se concentra na aquisição responsável de IA e na avaliação de riscos.
No nível federal, o veto intensificou os apelos por um quadro regulatório nacional de IA. A administração Biden emitiu uma ordem executiva sobre IA em outubro de 2023, mas uma legislação abrangente permanece pendente no Congresso. A falta de ação federal levou a um mosaico de iniciativas estaduais, com a abordagem da Califórnia sendo observada de perto como um modelo potencial.
Perspectivas da Indústria e Acadêmicas
O veto gerou discussões dentro da comunidade de IA sobre as melhores maneiras de garantir segurança sem sufocar o progresso. Alguns pesquisadores argumentam que a autorregulação e os compromissos voluntários, como aqueles feitos por laboratórios líderes para pausar o desenvolvimento dos modelos mais poderosos, são insuficientes. Outros sustentam que a regulamentação deveria se concentrar em aplicações específicas de alto risco, em vez dos próprios modelos.
Anthropic e OpenAI estabeleceram equipes internas de segurança e pediram supervisão governamental, mas se opuseram às disposições específicas do SB 1047. Google DeepMind também tem sido ativo na pesquisa de segurança de IA, mas não tomou uma posição pública sobre o projeto. Instituições acadêmicas como Stanford AI Lab e Berkeley AI Research contribuíram para o debate por meio de pesquisas e recomendações de políticas.
Perspectivas Futuras
No início de 2025, nenhum novo projeto de lei estadual sobre IA foi aprovado na Califórnia, mas as discussões continuam. O debate sobre o SB 1047 destacou os desafios de regulamentar uma tecnologia que evolui rapidamente e tem amplas aplicações. O resultado dos futuros esforços legislativos dependerá do equilíbrio entre inovação e segurança pública, e da capacidade de criar regras que sejam eficazes e flexíveis.
Na ausência de regulamentação vinculante, muitos desenvolvedores de IA adotaram estruturas de segurança voluntárias, como a "estrutura de segurança de fronteira" proposta pela Anthropic. Esses esforços, embora não sejam legalmente executáveis, representam um passo em direção ao desenvolvimento responsável. O veto do SB 1047 tornou-se, assim, um estudo de caso na complexa interação entre tecnologia, política e opinião pública.