Em 2024, a Califórnia promulgou uma série de leis de inteligência artificial que foram muito além do amplamente divulgado Projeto de Lei 1047 do Senado. Embora o SB 1047, a Lei de Inovação Segura e Protegida para Modelos de Inteligência Artificial de Fronteira, tenha dominado as manchetes nacionais e tenha sido finalmente vetado pelo Governador Gavin Newsom em 29 de setembro de 2024, a legislatura estadual aprovou e o governador sancionou diversas outras medidas relacionadas à IA. Essas leis abordaram uma ampla gama de preocupações, incluindo transparência em conteúdo gerado por IA, o uso de deepfakes em campanhas políticas e a responsabilização de sistemas de tomada de decisão automatizados. Em conjunto, elas posicionaram a Califórnia como pioneira na regulamentação de IA, mesmo com a abordagem do estado permanecendo mais fragmentada do que o arcabouço abrangente proposto pelo SB 1047.
O pacote legislativo refletiu uma urgência crescente entre os legisladores californianos em responder à rápida proliferação de ferramentas de IA generativa. As leis foram elaboradas em meio a intenso lobby de grupos da indústria, instituições acadêmicas e organizações da sociedade civil. O Governador Newsom, um democrata, sancionou os projetos em uma série de anúncios ao longo de setembro de 2024, enfatizando a necessidade de proteger consumidores e eleitores enquanto fomenta a inovação. Os estatutos resultantes criaram novas obrigações para empresas que desenvolvem e implantam sistemas de inteligência artificial no estado, que abriga muitas das principais empresas de IA do mundo, incluindo OpenAI, Anthropic e Google DeepMind.
Transparência em Conteúdo Gerado por IA
Uma das peças legislativas mais significativas foi o Projeto de Lei 2013 da Assembleia, que determinou transparência nos dados de treinamento. A lei exige que os desenvolvedores de sistemas de IA generativa publiquem documentação sobre os conjuntos de dados usados para treinar seus modelos. Essa documentação deve incluir informações sobre as fontes dos dados, se os dados incluem material protegido por direitos autorais e como os dados foram curados e processados. A lei se aplica a desenvolvedores que fornecem serviços de IA a californianos, independentemente de onde a empresa esteja sediada. Ela entrou em vigor em 1º de janeiro de 2025, dando às empresas uma janela curta para se adequarem.
O AB 2013 foi visto como uma resposta direta aos processos movidos por autores e artistas contra empresas como OpenAI e Anthropic, que alegaram que suas obras protegidas por direitos autorais foram usadas sem permissão para treinar modelos de linguagem de grande escala. A lei não proíbe o uso de material protegido por direitos autorais, mas força a transparência sobre seu uso. Especialistas jurídicos observaram que os requisitos de documentação podem ser onerosos para startups menores, enquanto empresas maiores, com mais recursos, estavam em melhor posição para cumprir. A lei também exigia que os desenvolvedores descrevessem o propósito do modelo e os casos de uso pretendidos, bem como quaisquer limitações ou riscos conhecidos.
Deepfakes em Campanhas Políticas
A Califórnia também agiu agressivamente para regulamentar o uso de deepfakes em eleições. O Projeto de Lei 2655 da Assembleia, sancionado em setembro de 2024, exige que grandes plataformas online rotulem ou removam conteúdo enganoso gerado por IA relacionado a eleições. A lei se aplica a conteúdo que retrata um candidato ou funcionário eleito de forma materialmente enganosa, como um vídeo falso mostrando um candidato dizendo algo que nunca disse. As plataformas devem agir dentro de 72 horas após serem notificadas de tal conteúdo. A lei se baseia em estatutos anteriores da Califórnia que abordavam deepfakes em eleições, mas estende os requisitos a uma gama mais ampla de plataformas e conteúdos.
O AB 2655 foi complementado pelo Projeto de Lei 2839 da Assembleia, que permite que tribunais emitam liminares contra a distribuição de conteúdo eleitoral enganoso gerado por IA. A lei também permite que candidatos busquem medidas legais expeditas. Juntas, essas leis criaram um arcabouço legal robusto para combater a desinformação impulsionada por IA no ciclo eleitoral de 2024 e além. Os apoiadores argumentaram que as leis eram necessárias para proteger os processos democráticos, enquanto os críticos levantaram preocupações sobre possíveis violações da Primeira Emenda e a dificuldade de definir o que constitui um deepfake "materialmente enganoso".
Responsabilização Algorítmica e Tomada de Decisão Automatizada
Outra lei notável, o Projeto de Lei 942 do Senado, abordou o uso de IA em sistemas de tomada de decisão automatizados. A lei exige que empresas que usam IA para tomar decisões consequentes - como aquelas que afetam emprego, moradia, crédito ou saúde - forneçam aos consumidores informações significativas sobre como o sistema funciona. Isso inclui a lógica envolvida na decisão, a importância do papel da IA e o direito do consumidor de optar por não participar ou solicitar revisão humana. A lei entrou em vigor em 1º de janeiro de 2025 e foi modelada em parte no Regulamento Geral de Proteção de Dados da União Europeia.
O SB 942 foi elogiado por defensores da privacidade como um passo em direção à transparência algorítmica. No entanto, também foi criticado por ser vago sobre o que constitui uma "decisão consequente" e por não exigir que as empresas realizem auditorias independentes de seus sistemas. Os mecanismos de aplicação da lei foram deixados em grande parte para a Agência de Proteção à Privacidade da Califórnia, que foi encarregada de emitir regulamentos para implementar o estatuto. Alguns grupos da indústria alertaram que a lei poderia levar a um mosaico de encargos de conformidade, pois as empresas precisariam adaptar seus sistemas para atender aos requisitos da Califórnia.
Proteções para Artistas e Criadores
A Califórnia também promulgou leis destinadas a proteger atores, músicos e outros artistas de réplicas não autorizadas de IA. O Projeto de Lei 2602 da Assembleia exige que contratos entre artistas e estúdios incluam linguagem clara sobre o uso de réplicas digitais. A lei, que entrou em vigor em 1º de janeiro de 2025, proíbe o uso da réplica digital de um artista sem consentimento explícito, a menos que o uso seja coberto por um acordo de negociação coletiva. Foi apoiada pelo Screen Actors Guild - American Federation of Television and Radio Artists (SAG-AFTRA), que havia recentemente concluído uma greve que incluía preocupações sobre IA.
Uma lei relacionada, o Projeto de Lei 1836 da Assembleia, estendeu proteções semelhantes a artistas falecidos. Ela exige consentimento do espólio ou herdeiros antes que uma réplica digital de uma pessoa falecida possa ser usada em uma produção comercial. A lei foi vista como uma resposta ao uso crescente de IA para recriar as semelhanças de figuras históricas e celebridades falecidas. Ambas as leis foram notáveis por sua especificidade, abordando os desafios únicos impostos pela IA na indústria do entretenimento, que é um grande motor econômico na Califórnia.
O Veto do SB 1047
Apesar da aprovação dessas leis, a peça mais ambiciosa da legislação de IA na Califórnia não se tornou lei. O SB 1047, introduzido pelo Senador Scott Wiener, teria exigido que os desenvolvedores de grandes modelos de IA implementassem protocolos de segurança, incluindo um interruptor de segurança e auditorias de terceiros. O projeto também teria criado uma nova agência estadual para supervisionar modelos de IA de fronteira. O Governador Newsom vetou o projeto em 29 de setembro de 2024, argumentando que era excessivamente amplo e poderia sufocar a inovação. Em sua mensagem de veto, Newsom disse que o projeto focava nos maiores modelos e poderia impor "padrões rigorosos" que não eram justificados pelos riscos atuais.
O veto foi uma vitória para muitos na indústria de tecnologia, incluindo OpenAI e Anthropic, que haviam feito lobby contra o projeto. No entanto, decepcionou defensores que argumentaram que a Califórnia precisava de salvaguardas fortes contra os danos potenciais da IA avançada. Em sua mensagem, Newsom disse que havia direcionado agências estaduais a trabalhar com especialistas para desenvolver abordagens alternativas, incluindo arcabouços baseados em risco para a regulamentação de IA. O veto destacou a tensão entre o desejo do estado de liderar na regulamentação de IA e seu interesse em manter sua posição como um polo global para a inovação tecnológica.
Reações e Resposta da Indústria
As leis de 2024 geraram reações mistas da indústria de IA. Empresas como OpenAI e Anthropic apoiaram publicamente algumas das medidas de transparência e deepfake, enquanto expressaram preocupações sobre o ônus cumulativo da conformidade. Startups menores, particularmente aquelas no espaço de IA generativa, temiam que os requisitos de documentação do AB 2013 fossem difíceis de cumprir. Algumas empresas começaram a contratar oficiais de conformidade e equipes jurídicas para navegar pelas novas regulamentações. Grupos da indústria, como a Chamber of Progress e a associação comercial TechNet, argumentaram que as leis poderiam criar um ambiente regulatório fragmentado, já que outros estados e o governo federal também estavam considerando legislação de IA.
Organizações da sociedade civil, incluindo a American Civil Liberties Union e a Electronic Frontier Foundation, foram geralmente favoráveis às medidas de transparência e responsabilização. Elas argumentaram que as leis deram aos consumidores e eleitores ferramentas importantes para entender e contestar decisões impulsionadas por IA. No entanto, alguns defensores da privacidade notaram que as leis não foram longe o suficiente, particularmente em exigir auditorias independentes ou proibir certos usos de alto risco de IA por completo. O debate sobre a regulamentação de IA na Califórnia provavelmente continuará, pois a legislatura estadual já sinalizou que considerará projetos de lei adicionais de IA em 2025.
Implementação e Aplicação
A implementação das leis de 2024 recai em grande parte sobre agências estaduais, incluindo a Agência de Proteção à Privacidade da Califórnia e o escritório do Procurador-Geral. A Agência de Proteção à Privacidade é encarregada de redigir regulamentos para o SB 942, que esclarecerão o escopo da lei e os procedimentos para aplicação. A agência realizou workshops públicos para coletar contribuições de partes interessadas, incluindo representantes da indústria, acadêmicos e defensores do consumidor. O escritório do Procurador-Geral é responsável por aplicar as leis de deepfake e pode mover ações civis contra infratores.
Espera-se que a conformidade com as novas leis seja um empreendimento significativo para empresas que operam na Califórnia. O grande setor de tecnologia do estado, que inclui os principais desenvolvedores de IA e provedores de nuvem como Amazon Web Services, Microsoft Azure e Google Cloud, será o mais afetado. Muitas dessas empresas já começaram a publicar documentação de modelos e implementar sistemas de rotulagem de conteúdo em antecipação às leis. O impacto de longo prazo das leis dependerá de como elas forem interpretadas por tribunais e reguladores, bem como de o governo federal aprovar sua própria legislação de IA que possa sobrepor as leis estaduais.
Contexto Mais Amplo e Perspectivas Futuras
As leis de IA de 2024 da Califórnia fazem parte de um movimento global mais amplo em direção à regulamentação de IA. A Lei de IA da União Europeia, formalmente adotada em 2024, impõe requisitos abrangentes aos sistemas de IA com base em seu nível de risco. Outros países, incluindo China e Reino Unido, também introduziram arcabouços de governança de IA. Nos Estados Unidos, o governo federal adotou uma abordagem mais fragmentada, com ordens executivas e orientações de agências em vez de legislação abrangente. As leis da Califórnia, embora mais restritas do que a Lei de IA da UE, representam um passo significativo na ausência de ação federal.
O futuro da regulamentação de IA na Califórnia permanece incerto. O veto do SB 1047 demonstrou os desafios políticos de aprovar legislação abrangente de IA, mesmo em um estado com supermaioria democrata. No entanto, a aprovação do pacote de 2024 mostrou que há apoio bipartidário para abordar danos específicos, como deepfakes e viés algorítmico. À medida que a tecnologia de IA continua a evoluir, os legisladores californianos provavelmente revisitarão o assunto, potencialmente introduzindo novos projetos de lei para abordar desafios emergentes. Por enquanto, as leis de 2024 fornecem uma base para a governança de IA no estado, equilibrando inovação com proteção.