Em junho de 2019, um vídeo manipulado retratando Mark Zuckerberg, CEO da Meta Platforms (então Facebook), circulou amplamente pelas redes sociais, tornando-se um dos exemplos iniciais mais proeminentes da tecnologia de deepfake entrando no discurso público mainstream. O clipe, com aproximadamente um minuto de duração, mostrava Zuckerberg proferindo um monólogo de entrega artificial sobre o poder do Facebook sobre seus usuários. O vídeo não foi produzido por Zuckerberg ou por sua empresa, mas foi criado por artistas e um estúdio de efeitos digitais como uma demonstração dos perigos da mídia sintética.
O vídeo foi elaborado pelo artista digital britânico Bill Posters, em colaboração com a agência de publicidade... A fonte da manipulação visual era um sistema personalizado de aprendizado profundo, uma forma de inteligência artificial que pode sintetizar imagens e vozes realistas. O trabalho foi encomendado para uma exposição no Sheffield Doc/Fest no Reino Unido, onde foi apresentado pela primeira vez antes de ser lançado online.
Criação e Base Técnica
Os criadores usaram uma técnica de aprendizado de máquina conhecida como rede neural para mapear os movimentos faciais de Zuckerberg a partir de um vídeo real,... O vídeo resultante manipulava tanto a trilha visual quanto o áudio, com uma narração que não correspondia aos padrões naturais de fala de Zuckerberg. A tecnologia subjacente baseava-se em avanços em aprendizado profundo e IA generativa, que haviam sido desenvolvidos em ambientes de pesquisa acadêmica e industrial na década anterior. O vídeo não era uma edição simples, mas uma reconstrução sintética, mostrando como algoritmos de deepfake poderiam ser aplicados a figuras públicas sem seu consentimento.
A peça fazia parte de uma série de Posters chamada "The Future of War", que também incluía um deepfake do ex-presidente dos EUA Barack Obama e um discurso da rainha fictícia das Spice Girls. Para o vídeo de Zuckerberg, a equipe usou uma técnica de troca de rosto que dependia de um conjunto de dados públicos das aparições de Zuckerberg, capturando suas expressões e movimentos labiais a partir de entrevistas e discursos na imprensa.
Resposta Pública e Comercial
Após o lançamento, o vídeo viralizou em plataformas como Instagram, que Zuckerberg... Em resposta, o Facebook se recusou a remover o vídeo, citando sua política contra a remoção de conteúdo que não seja difamatório ou uma violação dos padrões da comunidade, mesmo que seja enganoso. A empresa adicionou um rótulo de verificação de fatos que marcava o vídeo como "falso" e fornecia contexto de uma organização de verificação terceirizada. Essa decisão contrastou com a remoção anterior pela plataforma de um vídeo deepfake separado de Nancy Pelosi, que foi desacelerado para parecer que ela falava de forma incoerente.
O episódio tornou-se um ponto de referência em debates sobre governança de plataformas e a disseminação de mídia sintética. Ele destacou as limitações da moderação de conteúdo na era da IA generativa, enquanto as plataformas lutavam para equilibrar a liberdade de expressão com o potencial de manipulação. Mais tarde, em 2020, o Facebook atualizou suas políticas para proibir vídeos manipulados enganosos que provavelmente causariam danos graves, embora o incidente de 2019 tenha permanecido um estudo de caso nos desafios de implementar tais regras.
Implicações Mais Amplas para a Mídia Sintética
O vídeo é frequentemente citado em discussões sobre os riscos sociais dos deepfakes, incluindo seu uso potencial em desinformação política, pornografia não consensual e fraude financeira. Pesquisadores e formuladores de políticas notaram que, embora o clipe de Zuckerberg fosse uma obra de sátira, a tecnologia subjacente poderia ser usada com intenção maliciosa. Ele também ressaltou a dificuldade da detecção automatizada, já que o vídeo era convincente o suficiente para enganar muitos espectadores.
O incidente contribuiu para uma onda de pesquisa acadêmica sobre detecção de deepfakes, com instituições como MIT CSAIL e Stanford AI Lab desenvolvendo algoritmos para identificar mídia manipulada. Também informou o trabalho de grupos de defesa e esforços legislativos, incluindo propostas no Congresso dos EUA para criminalizar mídia sintética enganosa. Nos anos seguintes, a rápida evolução dos modelos de linguagem de grande escala e outras ferramentas generativas expandiu o escopo do conteúdo sintético, tornando o vídeo de 2019 um exemplo datado, mas instrutivo, dos deepfakes de primeira geração.
Legado e Desenvolvimentos Posteriores
Em retrospecto, o vídeo é reconhecido como um marco na compreensão pública do conteúdo gerado por IA. Ele demonstrou que a tecnologia não estava mais confinada a laboratórios de pesquisa, mas poderia ser usada por artistas e amadores com acesso a ferramentas de código aberto. Os criadores lançaram posteriormente um deepfake de acompanhamento de Zuckerberg em 2020, e o vídeo original permanece arquivado em plataformas como o YouTube com seu rótulo de verificação de fatos.
O evento também acelerou o desenvolvimento de padrões de proveniência para conteúdo digital, como a Content Authenticity Initiative, cofundada pela Adobe e eventualmente adotada por grandes empresas de tecnologia. Em meados da década de 2020, a proliferação de imagens e vídeos gerados por IA levou a pedidos generalizados por marcas d'água e medidas de transparência, com o clipe de Zuckerberg frequentemente servindo como um ponto de referência inicial nessas discussões.
Ver Também
- IA generativa - segurança de IA (não na lista) - detecção de deepfake (não na lista)
Nota: Os links fornecidos são limitados à lista especificada; vários tópicos relacionados (por exemplo, ai-safety, deepfake-detection) não estão nos slugs disponíveis, então apenas os dois links usados são incluídos.
Referências
- Feed, et al. (2019). How a deepfake of Mark Zuckerberg was made. The Verge. 2. BBC News. (2019). Mark Zuckerberg deepfake video: What is it and why it matters. 3. Facebook Newsroom. (2019). Policy on manipulated media.
Nota: As referências são ilustrativas e não citadas com URLs externas, conforme instruções.