Vídeos deepfake: a nova e assustadora tendência da internet que ameaça nossa democracia

'Claro que são vídeos falsos, todos podem ver que não são reais. Mesmo assim, eles realmente disseram essas coisas, não disseram?

Estas são as palavras de Vivienne Rook, a política fictícia interpretada por Emma Thompson no brilhante drama distópico da BBC. Anos e anos .

O episódio em questão, ambientado em 2027, aborda o assunto dos 'deepfakes' - vídeos em que o rosto e a voz de uma pessoa viva são manipulados digitalmente para dizer o que o programador quiser.

Rook resume perfeitamente o problema com esses vídeos - mesmo que você saiba que eles são falsos, eles deixam uma impressão persistente.

Emma Thompson como Vivienne Rook em Anos e Anos (Imagem: BBC)

Tina Turner está doente

E suas palavras são ainda mais convincentes porque os deepfakes são reais e já estão entre nós.

No ano passado, vários vídeos pornográficos deepfake surgiram online, parecendo mostrar celebridades como Emma Watson, Gal Gadot e Taylor Swift em situações explícitas.

Deepfakes também foram usados ​​para retratar figuras de alto perfil, como Donald Trump, Barack Obama e Mark Zuckerberg, fazendo declarações inflamatórias.

No vídeo de Zuckerberg, por exemplo, o Facebook fundador afirma ser 'um homem com controle total de bilhões de dados roubados de pessoas, todos os seus segredos, suas vidas, seus futuros.'

Em alguns casos, os deepfakes são quase indistinguíveis dos reais – o que é particularmente preocupante para políticos e outras pessoas aos olhos do público.

Vídeos que podem ter sido criados inicialmente para rir podem facilmente ser mal interpretados pelos espectadores.

No início deste ano, por exemplo, um vídeo alterado digitalmente apareceu para mostrar Nancy Pelosi, a presidente da Câmara dos Deputados dos Estados Unidos, balbuciando bêbada durante um discurso.

O vídeo foi amplamente compartilhado no Facebook e no YouTube, antes de ser twittado pelo presidente Donald Trump com a legenda: 'PELOSI GAGA ATRAVÉS DE CONFERÊNCIA DE NOTÍCIAS'.

O vídeo foi desmascarado, mas não antes de ter sido visto milhões de vezes. Trump ainda não apagou o tweet, que foi retuitado mais de 30.000 vezes.

A abordagem atual das empresas de mídia social é filtrar e reduzir a distribuição de vídeos deepfake, em vez de removê-los completamente – a menos que sejam pornográficos.

Isso pode resultar em graves danos à reputação das vítimas, sem mencionar a humilhação e o ridículo contínuos dos espectadores.

'Deepfakes são uma das tendências mais alarmantes que testemunhei como congressista até hoje', disse a congressista norte-americana Yvette Clarke em um artigo recente para Quartz .

“Se o público americano puder acreditar e confiar em vídeos alterados de candidatos presidenciais, nossa democracia está em grave perigo.

'Precisamos trabalhar juntos para impedir que as deepfakes se tornem a característica definidora das eleições de 2020.'

Claro, não é apenas a democracia que está em risco, mas também a economia, o sistema legal e até os próprios indivíduos.

Clarke adverte que, se a tecnologia deepfake continuar a evoluir sem verificação, as evidências em vídeo podem perder sua credibilidade durante os testes.

Não é difícil imaginá-lo sendo usado por ex-amantes descontentes, funcionários e pessoas aleatórias na internet para se vingar e arruinar a reputação das pessoas.

O software para a criação desses vídeos já está amplamente disponível.

Programas como o FakeApp permitem que os usuários sobreponham o rosto de qualquer pessoa ao corpo de outra pessoa.

Enquanto isso, a gigante da tecnologia Samsung demonstrou recentemente um algoritmo que pode criar vídeos falsos de pessoas com base em uma única imagem de seu rosto.

A empresa testou seu algoritmo em imagens estáticas de rostos conhecidos, incluindo Marilyn Monroe, Albert Einstein e Mona Lisa - com resultados assustadoramente realistas.

A IA da Samsung pode criar vídeos falsos de pessoas com base em uma única imagem de seu rosto (Imagem: Samsung)

As primeiras tentativas de vídeos deepfake foram bastante fáceis de detectar - muitas vezes porque não incluíam a quantidade normal de piscar de olhos de uma pessoa.

No entanto, a última geração de deepfakes se adaptou e a tecnologia melhorou, tornando-os mais realistas do que nunca.

Os pesquisadores agora estão tentando identificar a manipulação de vídeos observando atentamente os pixels de quadros específicos e detectando falhas que não podem ser facilmente corrigidas.

Cientistas da computação da Universidade de Albany desenvolveram um algoritmo para detectar 'artefatos' da transformação digital , mesmo quando as pessoas não conseguem ver as diferenças.

'Quando um algoritmo de síntese de vídeo deepfake gera novas expressões faciais, as novas imagens nem sempre correspondem ao posicionamento exato da cabeça da pessoa, às condições de iluminação ou à distância da câmera', disse Siwei Lyu , Diretor do Laboratório de Aprendizado de Máquina e Visão Computacional da Universidade de Albany.

Quando um computador coloca o rosto de Nicolas Cage na cabeça de Elon Musk, ele pode não alinhar o rosto e a cabeça corretamente. (Imagem: Siwei Lyu)

“Para fazer com que os rostos falsos se misturem com o ambiente, eles precisam ser transformados geometricamente – girados, redimensionados ou distorcidos de outra forma. Esse processo deixa artefatos digitais na imagem resultante.'

O algoritmo dos pesquisadores calcula para que lado o nariz da pessoa está apontando em uma imagem. Ele também mede para que lado a cabeça está apontando, calculado usando o contorno do rosto.

Em um vídeo real da cabeça de uma pessoa real, tudo isso deve se alinhar de forma bastante previsível. Em deepfakes, porém, eles geralmente estão desalinhados.

Além de detectar deepfakes, os pesquisadores também estão explorando maneiras de impedir sua criação.

Inteligência artificial

Os algoritmos do Deepfake funcionam processando milhares de fotos e vídeos online e usando aprendizado de máquina para detectar e extrair rostos.

por que a tesco se chama tesco

Quanto mais imagens de rosto de alta qualidade na biblioteca, mais convincente será o vídeo deepfake resultante.

'Encontramos uma maneira de adicionar ruído especialmente projetado a fotografias ou vídeos digitais que não são visíveis aos olhos humanos, mas podem enganar os algoritmos de detecção de rosto', disse Lyu.

“Ele pode ocultar os padrões de pixels que os detectores de rosto usam para localizar um rosto e criar chamarizes que sugerem que há um rosto onde não há um, como em um pedaço do fundo ou em um quadrado da roupa de uma pessoa.

À esquerda, um rosto é facilmente detectado em uma imagem antes do processamento. No meio, foram adicionadas perturbações, fazendo com que o algoritmo detectasse outras faces, mas não a real. À direita estão as alterações que foram adicionadas à imagem, aprimoradas 30 vezes para ficarem visíveis. (Imagem: Siwei Lyu)

“Com menos rostos reais e mais não rostos poluindo os dados de treinamento, um algoritmo deepfake será pior em gerar um rosto falso.

'Isso não apenas retarda o processo de criação de um deepfake, mas também torna o deepfake resultante mais falho e mais fácil de detectar.'

No futuro, os indivíduos poderão optar por aplicar esse 'ruído digital' a qualquer vídeo que enviarem para a mídia social, dificultando o uso em deepfakes.

No entanto, Lyu admite que a ciência de detectar deepfakes é, efetivamente, uma corrida armamentista.

'Fakers vão melhorar em fazer suas ficções, então nossa pesquisa sempre tem que tentar acompanhar, e até mesmo avançar um pouco', disse ele.