Um deepfake é uma peça de mídia sintética, na maioria das vezes vídeo ou áudio, que foi gerada ou manipulada usando técnicas de aprendizado profundo para retratar de forma convincente uma pessoa real dizendo ou fazendo algo que ela não disse ou fez de fato. O termo é um amálgama de aprendizado profundo e falso, e originou-se no final de 2017 em um fórum do Reddit onde um usuário chamado deepfakes publicou vídeos com troca de rosto, inicialmente de celebridades, usando ferramentas iniciais de troca de rosto baseadas em rede adversarial generativa.
A tecnologia de deepfake avançou rapidamente no final dos anos 2010 e início dos anos 2020, passando de trocas de rosto grosseiras e facilmente detectáveis para vídeos altamente convincentes e, cada vez mais, clonagem de voz em tempo real e síntese de corpo inteiro, levantando preocupações que abrangem pornografia não consensual, desinformação política e fraude.
Técnicas
Os primeiros deepfakes usavam principalmente troca de rosto baseada em autoencoders, treinando um codificador compartilhado e decodificadores separados em filmagens de duas pessoas para que as expressões de uma pudessem ser mapeadas no rosto da outra. Métodos baseados em GAN melhoraram ainda mais o realismo ao colocar um gerador contra um discriminador treinado para detectar falsificações. Em meados dos anos 2020, os modelos de difusão tornaram-se a técnica dominante para geração de vídeo e imagem sintéticos de alta qualidade, e ferramentas dedicadas de troca de rosto e sincronização labial, juntamente com sistemas de texto para vídeo de uso geral, tornaram a produção de um vídeo falso convincente dramaticamente mais barata e rápida do que nos primeiros anos da tecnologia.
Usos maliciosos e legítimos
Aplicações maliciosas documentadas incluem imagens íntimas não consensuais, o caso de uso mais antigo e ainda o mais comumente relatado, desinformação política, como declarações fabricadas por figuras públicas divulgadas em torno de eleições, e fraude financeira, incluindo um caso amplamente noticiado em 2024 em que um funcionário financeiro de uma empresa multinacional foi enganado por uma videochamada com executivos deepfake para transferir milhões de dólares. A tecnologia de deepfake também tem aplicações legítimas reconhecidas, incluindo dublagem de filmes e efeitos de rejuvenescimento, ferramentas de acessibilidade que geram uma voz sintética para pessoas que perderam a própria, e sátira protegida como liberdade de expressão em algumas jurisdições.
Detecção e contramedidas
Detectar deepfakes tornou-se uma área de pesquisa ativa, usando artefatos como piscadas inconsistentes, geometria facial não natural ou discrepâncias audiovisuais sutis, embora a precisão da detecção tenha lutado para acompanhar a qualidade da geração, particularmente para os modelos de ponta. Marca d'água e padrões de proveniência de conteúdo foram propostos como defesas complementares que não dependem de identificar artefatos de geração. Várias jurisdições moveram-se para regulamentar deepfakes especificamente em meados dos anos 2020, incluindo leis estaduais nos EUA voltadas para deepfakes eleitorais e íntimos não consensuais e disposições dentro do Ato de IA da UE que exigem a divulgação de mídia gerada por IA, embora a aplicação transfronteiriça tenha permanecido difícil, dado o quão facilmente esse conteúdo pode ser produzido e distribuído.
Impacto
Além de incidentes prejudiciais específicos, pesquisadores e jornalistas descreveram um dividendo do mentiroso mais amplo: à medida que o público se torna ciente de que vídeos e áudios falsos convincentes são possíveis, filmagens genuínas podem ser descartadas como fabricadas, minando a confiança em evidências autênticas em geral. Essa dinâmica foi citada como um fator no crescimento da teoria da internet morta e no discurso relacionado sobre a confiabilidade da mídia online na era da IA generativa.