O Deepfake Accountability Act é um projeto de lei federal dos Estados Unidos que exigiria a rotulagem de conteúdo gerado por IA, incluindo deepfakes, para mitigar os riscos de engano e desinformação. Introduzido pela primeira vez em 2019, a legislação visa estabelecer obrigações de transparência para criadores e distribuidores de mídia sintética, além de fornecer recursos legais para indivíduos prejudicados por deepfakes não rotulados. O projeto reflete preocupações crescentes sobre o uso indevido de tecnologias de IA generativa e tem sido um ponto de referência em debates políticos subsequentes sobre regulação de IA.
Deepfakes são mídias realistas, mas fabricadas, criadas usando técnicas de inteligência artificial, particularmente arquiteturas de aprendizado profundo e redes neurais. O termo combina 'deep learning' e 'fake', e a tecnologia ganhou destaque em 2017 quando um usuário anônimo do Reddit publicou vídeos manipulados de celebridades. Em 2019, a proliferação de deepfakes levantou alarmes sobre seu potencial para minar eleições, difamar indivíduos e corroer a confiança pública na mídia. O Deepfake Accountability Act foi introduzido na Câmara dos Representantes dos EUA em 12 de junho de 2019, pela Representante Yvette Clarke, de Nova York, uma democrata que anteriormente patrocinara legislação de segurança cibernética.
Disposições Legislativas
O projeto propõe emendas ao Communications Act de 1934 dos EUA, adicionando uma nova seção sobre 'Transparência na Criação de Mídia Sintética'. Sob a legislação, qualquer pessoa que crie um deepfake com a intenção de distribuí-lo deve incluir uma marca d'água digital ou rótulo textual indicando que o conteúdo é gerado por IA. O rótulo deve ser claramente visível e não facilmente removível. O projeto também exige que plataformas que hospedam conteúdo gerado por usuários forneçam um mecanismo para que usuários relatem deepfakes não rotulados e removam tal conteúdo mediante notificação.
Além disso, o projeto estabelece um direito privado de ação, permitindo que indivíduos retratados em um deepfake sem consentimento processem o criador por danos, incluindo danos legais de até US$ 150.000 por violação. Também direciona a Federal Communications Commission (FCC) a adotar regulamentos implementando os requisitos de rotulagem dentro de 180 dias após a promulgação. O projeto exclui explicitamente conteúdo que seja claramente sátira, paródia ou ficção, desde que não seja apresentado como notícia autêntica ou relato factual.
Histórico Legislativo
O Deepfake Accountability Act foi introduzido no 116º Congresso como H.R. 3230. Foi encaminhado ao Comitê de Energia e Comércio da Câmara, mas nenhuma ação adicional foi tomada durante aquela sessão. O projeto foi reintroduzido em 12 de março de 2020, como H.R. 6236, com disposições semelhantes. Novamente, estagnou no comitê. No 117º Congresso, a Representante Clarke introduziu uma versão revisada em 24 de junho de 2021, como H.R. 4230, que incluía requisitos adicionais para anúncios políticos. Nenhuma dessas versões avançou para uma votação em plenário.
Apesar da falta de aprovação, o projeto tem sido citado em inúmeras iniciativas estaduais e artigos acadêmicos como um modelo para regulação de deepfakes. Por exemplo, a Califórnia aprovou uma lei em 2019 (AB 730) que proíbe a distribuição de mídia de áudio ou visual enganosa de candidatos políticos dentro de 60 dias de uma eleição, e o Deepfake Accountability Act é frequentemente mencionado como um contraparte federal. O projeto também influenciou discussões na União Europeia, que propôs o AI Act em 2021, incluindo obrigações de transparência para deepfakes.
Principais Apoiadores e Opositores
A Representante Yvette Clarke tem sido a principal patrocinadora, argumentando que o projeto é necessário para proteger consumidores e preservar a integridade democrática. Em um comunicado à imprensa, ela afirmou que 'deepfakes representam uma ameaça significativa à nossa segurança nacional, nossa democracia e nossa sociedade.' O projeto recebeu apoio de organizações de liberdades civis, como a Electronic Frontier Foundation, que elogiou suas disposições de rotulagem e remoção, embora a EFF também tenha expressado preocupações sobre possível excesso.
Os opositores incluem defensores da liberdade de expressão e alguns grupos da indústria de tecnologia, que argumentam que a rotulagem obrigatória poderia ser onerosa e que a definição de deepfake do projeto é ampla demais. A American Civil Liberties Union (ACLU) alertou que o direito privado de ação poderia ser usado para silenciar discurso legítimo, como comentários críticos ou expressão artística. Algumas empresas de tecnologia, incluindo OpenAI e Google DeepMind, apoiaram publicamente a rotulagem voluntária, mas não endossaram a legislação específica.
Contexto Técnico
O Deepfake Accountability Act surgiu durante um período de rápido avanço em modelos de IA generativa. Em 2018, pesquisadores da NVIDIA introduziram a arquitetura StyleGAN, que podia gerar rostos humanos altamente realistas. Em 2019, a OpenAI lançou o GPT-2, um modelo de linguagem de grande escala que podia produzir texto coerente, levantando preocupações sobre desinformação gerada por IA. O requisito de rotulagem do projeto foi visto como uma resposta a esses desenvolvimentos, embora se concentrasse principalmente em deepfakes visuais e de áudio, em vez de texto.
A criação de deepfakes tipicamente envolve redes adversárias generativas (GANs), onde duas redes neurais - um gerador e um discriminador - são treinadas juntas. O gerador produz mídia sintética, enquanto o discriminador tenta distingui-la de mídia real. Com o tempo, o gerador melhora, levando a resultados cada vez mais convincentes. O requisito do projeto por um rótulo visível destinava-se a facilitar a identificação de tal conteúdo pelos espectadores, mesmo que a tecnologia subjacente evolua.
Impacto e Legado
Embora o Deepfake Accountability Act nunca tenha se tornado lei, teve um impacto duradouro no cenário político. Foi um dos primeiros projetos federais a abordar especificamente deepfakes, e suas disposições foram ecoadas em propostas posteriores, como o Deepfake Task Force Act de 2020, bipartidário, e o Algorithmic Accountability Act de 2022. O projeto também contribuiu para uma conversa mais ampla sobre ética e regulação de IA, influenciando pesquisa acadêmica sobre detecção de deepfakes e marcas d'água.
Na ausência de legislação federal, vários estados promulgaram suas próprias leis sobre deepfakes. Em 2024, pelo menos 15 estados aprovaram leis abordando deepfakes, variando de penalidades criminais para uso malicioso a requisitos de rotulagem em anúncios políticos. O Deepfake Accountability Act é frequentemente citado nesses esforços estaduais como um modelo. Além disso, grandes plataformas de tecnologia implementaram políticas voluntárias para rotular conteúdo gerado por IA, como a etiqueta 'Feito com IA' da Meta e as credenciais de conteúdo da Google.
Status Atual e Perspectivas Futuras
Em 2025, o Deepfake Accountability Act não foi reintroduzido no Congresso atual. No entanto, a questão permanece relevante, particularmente com o surgimento de modelos de linguagem de grande escala como o GPT-4 e a crescente facilidade de gerar mídia sintética. Em 2024, a Federal Election Commission (FEC) recusou regulamentar deepfakes gerados por IA em anúncios políticos, citando falta de autoridade, o que renovou pedidos por legislação federal. A Representante Clarke indicou que pode introduzir uma nova versão do projeto, mas nenhum anúncio formal foi feito.
O futuro do projeto pode depender do clima político e do resultado de debates em andamento sobre regulação de IA. Alguns legisladores propuseram legislação mais ampla sobre IA, como o AI Foundation Model Transparency Act, que exigiria divulgação de conteúdo gerado por IA em todos os domínios. O Deepfake Accountability Act permanece um ponto de referência fundamental, e seus princípios provavelmente informarão qualquer futura lei federal sobre deepfakes.
Críticas e Limitações
Críticos apontaram várias limitações do Deepfake Accountability Act. Primeiro, a definição de deepfake do projeto é limitada a 'mídia de áudio ou visual que parece autêntica e retrata uma pessoa dizendo ou fazendo algo que ela não disse ou fez.' Isso exclui conteúdo gerado por IA baseado em texto, que também pode ser usado para espalhar desinformação. Segundo, o requisito de rotulagem pode ser contornado por usuários sofisticados que podem remover marcas d'água ou usar IA para gerar conteúdo que evade detecção. Terceiro, o projeto não aborda a natureza internacional da distribuição de deepfakes, pois muitos deepfakes se originam fora dos Estados Unidos.
Além disso, alguns estudiosos do direito argumentaram que o direito privado de ação poderia levar a processos frívolos, e que os danos legais de US$ 150.000 são excessivos. Outros notaram que o projeto não exige que plataformas detectem proativamente deepfakes, apenas que respondam a relatos, o que pode ser insuficiente dada a escala de conteúdo enviado diariamente. Essas críticas informaram esforços legislativos subsequentes, que buscaram abordar algumas dessas lacunas.
Conclusão
O Deepfake Accountability Act representa uma tentativa inicial de regular conteúdo gerado por IA no nível federal. Embora não tenha sido aprovado, moldou o discurso sobre regulação de deepfakes e influenciou esforços estaduais e internacionais. À medida que a tecnologia de IA continua avançando, a necessidade de transparência e responsabilidade em mídia sintética permanece premente, e os princípios do projeto provavelmente ressurgirão em futuras propostas legislativas.