A inteligência artificial pode acabar com as deepfakes?

José Eduardo Costa

Por José Eduardo Costa

3 de outubro de 2019 às 15:02 - Atualizado há 12 meses

Logo ReStartSe

Inscreva-se para o maior e mais audacioso evento de inovação, tecnologia e transformação digital já feito na América Latina. 30 dias que vão mudar sua visão de mundo, dos seus negócios e da sua carreira.

Online e totalmente gratuito - 01 a 30 de outubro/2020

O Google é a mais nova gigante de tecnologia a lançar uma iniciativa para combater as deepfakes, vídeos criados por meio de algoritmos de inteligência artificial (IA), que mostram pessoas irreais dizendo coisas ficcionais.

O novo projeto do Google consiste em um enorme banco de dados para a detecção de deepfakes. A base de dados está disponível, em código aberto, e conta com 3.000 vídeos originais e manipulados. Nos vídeos, 28 atores contam histórias, usam expressões comuns, e realizam tarefas cotidianas.

Em seguida, os engenheiros do Google utilizaram algoritmos para alterar os rostos dos atores, seus discursos e até manipular as atividades deles, criando um cenário distinto do original. Ao lançar a plataforma de vídeos em código aberto, o Google quer acelerar o desenvolvimento de ferramentas de detecção de deepfakes.

Isso porque apesar dos cientistas e engenheiros de software conhecerem como as deepfakes são criadas, eles ainda não sabem como detectá-las com 100% de acuracidade. O desafio do Google, aberto a programadores, desenvolvedores, engenheiros de computação e demais interessados no tema é, a partir da base de dados e dos códigos, desenvolver novas tecnologias e métodos para a identificação de deepfakes.

Os métodos atuais para identificação de deepfakes permitem reconhecer, por exemplo, falsas sombras, fruto de sobreposição de imagens, e erros de edição, como sobrancelhas duplas. Mas as tecnologias utilizadas para criar as deepfakes estão evoluindo rapidamente.

E o fruto desta evolução, os vídeos artificialmente produzidos, são distribuídos, principalmente, por meio das plataformas sociais do Google e do Facebook. Daí o interesse das companhias em combater os vídeos falsos e a tecnologia por trás deles. Os gigantes de tecnologia não querem ser penalizados pelo mal uso de suas plataformas.

O Facebook e a Microsoft investiram US$ 10 milhões no Deepfake Detection Challenge para incentivar os programadores a criar métodos para detectar vídeos manipulados e impedir que eles sejam disseminados nas plataformas digitais.

Eleições presidenciais 2020

A atual corrida dos gigantes de tecnologia para desmascarar as deepfakes tem como pano de fundo a eleição presidencial dos EUA em 2020. O caso Cambridge Analytica, nas eleições presidenciais dos EUA de 2016, explicitou que é possível usar a tecnologia para influenciar os resultados das urnas. Agora, especialistas estão correndo para encontrar melhores métodos para detectar as deepfakes.

O processo de criação de deepfakes começa com o treinamento de dois algoritmos para fazer tarefas exatamente opostas. O primeiro algoritmo é chamado de gerador. A função do gerador é produzir saídas artificiais, como caligrafia, vídeos ou vozes, a partir de arquivos originais de texto, vídeo e áudio.

O segundo algoritmo é conhecido como discriminador. A função do discriminador é determinar se os resultados gerados pelo algoritmo gerador são reais ou não, comparando estes resultados com os arquivos originais.

Cada vez que o discriminador rejeita com êxito a saída do gerador, ele volta a tentar novamente. Depois de repetidas iterações, o discriminador não pode dizer qual a diferença entre o arquivo deepfake e o arquivo original.

E este é o desafio que os gigantes de tecnologia estão se propondo a resolver, incentivando a comunidade cientifica, de programadores e desenvolvedores a buscar soluções para as deepfakes.

Desde sua primeira aparição no final de 2017, surgiram muitos métodos de geração de deepfakes, levando a um número crescente de vídeos e áudios sintetizados. Enquanto muitos deles pretendem ser engraçados, outros podem ser prejudiciais para os indivíduos e a sociedade.