O Projeto de Lei 1047 do Senado da Califórnia, formalmente intitulado Lei de Inovação Segura e Protegida para Modelos de Inteligência Artificial de Fronteira, foi uma lei estadual proposta com o objetivo de regulamentar o desenvolvimento e a implantação de sistemas de inteligência artificial em larga escala. Apresentado pelo senador estadual Scott Wiener em fevereiro de 2024, o projeto buscava impor requisitos de segurança aos desenvolvedores de modelos de IA de fronteira - aqueles treinados com poder computacional significativo - para prevenir danos catastróficos, como ataques cibernéticos ou a criação de armas biológicas. O projeto foi aprovado pela Legislatura Estadual da Califórnia em agosto de 2024, mas foi vetado pelo governador Gavin Newsom em 29 de setembro de 2024, tornando a Califórnia o primeiro estado dos EUA a tentar uma legislação abrangente de segurança de IA, embora o veto tenha deixado o cenário regulatório sem solução.
As disposições centrais do projeto visavam desenvolvedores de modelos de IA treinados com mais de 10^26 operações de ponto flutuante (FLOPs), um limite que, na época, abrangia apenas os sistemas mais avançados dos principais laboratórios. Exigia que tais desenvolvedores implementassem uma estrutura escrita de segurança e proteção, realizassem testes pré-implantação e garantissem que os modelos pudessem ser totalmente desligados em emergências. O projeto também estabelecia uma nova agência estadual, a Divisão de Modelos de Fronteira, dentro do Departamento de Tecnologia, para fiscalizar o cumprimento e aplicar penalidades por violações. Notavelmente, incluía uma cláusula de proteção a denunciantes para funcionários que relatassem preocupações de segurança e determinava que os desenvolvedores certificassem anualmente sua conformidade com o procurador-geral do estado.
Trajetória Legislativa e Principais Emendas
O SB 1047 passou por revisões significativas durante sua tramitação no Senado e na Assembleia da Califórnia. Inicialmente apresentado em fevereiro de 2024, o projeto foi alterado em abril para restringir seu escopo, focando em modelos com custos de treinamento superiores a US$ 100 milhões. Emendas subsequentes em agosto esclareceram que o projeto não se aplicaria a modelos de código aberto, a menos que fossem ajustados ou modificados para atingir o limite, e isentava modelos usados exclusivamente para pesquisa ou fins de segurança nacional. O projeto também incluía um requisito de "interruptor de desligamento", determinando que os desenvolvedores implementassem uma capacidade de interromper totalmente a operação do modelo, e exigia a criação de uma "estrutura de segurança" que seria disponibilizada publicamente.
O projeto foi aprovado no Senado em 21 de maio de 2024, com votação de 32 a 1, e na Assembleia em 28 de agosto de 2024, com votação de 45 a 11. A versão final foi aprovada pelo Senado em 30 de agosto de 2024 e enviada ao governador Newsom. Durante todo o processo, o projeto atraiu intenso lobby tanto de defensores quanto de opositores, com empresas de tecnologia e instituições acadêmicas opinando sobre seu impacto potencial na inovação.
Apoio e Oposição
Os apoiadores do SB 1047, incluindo pesquisadores proeminentes de IA como Yoshua Bengio, Geoffrey Hinton e Stuart Russell, argumentaram que o projeto era uma precaução necessária contra os potenciais riscos existenciais representados pela IA avançada. Eles sustentavam que os compromissos voluntários da indústria eram insuficientes e que a regulamentação governamental era essencial para garantir a segurança. O projeto também foi apoiado por sindicatos trabalhistas, grupos de defesa do consumidor e alguns executivos de tecnologia, que o viam como uma forma de responsabilizar os desenvolvedores de IA por danos.
Os opositores, incluindo grandes empresas de IA como OpenAI, Anthropic e Google DeepMind, bem como associações comerciais de tecnologia e alguns acadêmicos, argumentaram que o projeto era excessivamente amplo e sufocaria a inovação. Eles alegavam que o limite de FLOPs era arbitrário e que o projeto imporia custos de conformidade onerosos, especialmente para startups menores. Alguns críticos também argumentaram que o foco do projeto em riscos catastróficos hipotéticos distraía de danos mais imediatos, como viés e desinformação. Notavelmente, a Anthropic inicialmente expressou preocupações, mas depois ofereceu uma postura mais favorável, sugerindo emendas que foram parcialmente incorporadas.
Veto do Governador Newsom e Justificativa
Em 29 de setembro de 2024, o governador Gavin Newsom vetou o SB 1047, citando preocupações sobre seu escopo "excessivamente amplo" e seu potencial de "sufocar" a inovação. Em sua mensagem de veto, Newsom reconheceu a importância da segurança da IA, mas argumentou que o foco do projeto no tamanho do modelo e nos limites de computação não era a abordagem mais eficaz. Ele observou que o projeto poderia impor requisitos "inviáveis" aos desenvolvedores e que não abordava adequadamente toda a gama de riscos da IA, como discriminação algorítmica e deslocamento de empregos. Newsom, em vez disso, pediu uma estrutura regulatória mais equilibrada, apontando para ordens executivas em andamento e colaborações com especialistas para desenvolver políticas baseadas em evidências.
O veto foi recebido com reações mistas. Os apoiadores expressaram decepção, com o senador Wiener prometendo continuar a luta em sessões futuras. Os opositores elogiaram a decisão, com grupos da indústria de tecnologia afirmando que o veto protegeu a liderança da Califórnia em IA. O veto também gerou debate sobre o papel da regulamentação estadual versus federal, já que o Congresso dos EUA ainda não havia aprovado legislação abrangente de IA.
Impacto e Consequências
Após o veto, a questão da regulamentação da IA permaneceu um tópico proeminente na Califórnia e nacionalmente. Em outubro de 2024, o governador Newsom sancionou vários outros projetos de lei relacionados à IA, incluindo medidas abordando deepfakes e o uso de IA na saúde, mas recusou-se a promulgar legislação de segurança mais ampla. O veto também influenciou discussões em outros estados, com alguns legisladores considerando projetos semelhantes, mas ajustando suas abordagens com base na experiência da Califórnia.
O debate sobre o SB 1047 destacou os desafios de regulamentar tecnologia em rápida evolução. Os defensores do projeto argumentaram que esperar por ação federal deixaria o público desprotegido, enquanto os opositores sustentavam que a regulamentação prematura poderia dificultar desenvolvimentos benéficos. O legado do projeto inclui aumentar a conscientização sobre questões de segurança da IA e levar empresas a adotar compromissos voluntários de segurança, como os feitos na Cúpula de Segurança de IA da Casa Branca em 2023.
Contexto Mais Amplo na Regulamentação de IA
O SB 1047 fazia parte de um movimento global mais amplo em direção à regulamentação da IA. A Lei de IA da União Europeia, finalizada em 2024, adotou uma abordagem baseada em risco, categorizando aplicações de IA por nível de risco e impondo obrigações de acordo. Em contraste, o SB 1047 focava especificamente em modelos de fronteira, uma distinção que alguns especialistas argumentavam ser mais direcionada, mas também mais arbitrária. O fracasso do projeto ressaltou a dificuldade de elaborar legislação que equilibre inovação e segurança, um desafio que continua a ocupar formuladores de políticas em todo o mundo.
Considerações Técnicas e Éticas
A dependência do projeto em limites de FLOPs levantou questões técnicas sobre como medir as capacidades da IA. Os críticos observaram que a computação não é um substituto perfeito para o risco, pois modelos menores às vezes podem ser ajustados para alcançar capacidades perigosas. O projeto também abordou questões éticas, como a responsabilidade dos desenvolvedores pelos usos downstream de seus modelos e a tensão entre transparência e segurança nacional. Essas considerações permanecem centrais nos debates em andamento sobre governança de IA.
Perspectivas Futuras
No início de 2025, nenhum projeto semelhante foi promulgado na Califórnia, mas o senador Wiener indicou que reintroduzirá legislação na próxima sessão, possivelmente com critérios revisados. Enquanto isso, o governo federal tomou medidas para abordar a segurança da IA, incluindo uma ordem executiva do presidente Biden em outubro de 2023 e o estabelecimento do Instituto de Segurança de IA dos EUA. O resultado desses esforços provavelmente moldará o futuro da regulamentação de IA nos Estados Unidos, com a experiência da Califórnia servindo como um conto de advertência ou um modelo, dependendo da perspectiva.