A estratégia do Facebook para combater deepfakes: manipular seus próprios vídeos

Isabella Carvalho

Por Isabella Carvalho

5 de setembro de 2019 às 17:40 - Atualizado há 7 meses

Logo ReStartSe

GRATUITO, 100% ONLINE E AO VIVO

Inscreva-se para o Maior Programa de Capacitação GRATUITO para empresários, gestores, empreendedores e profissionais que desejam reduzir os impactos da Crise em 2020

Você sabe o que é deepfake? O termo, que ganhou destaque nos últimos meses, se refere ao uso de inteligência artificial para manipular imagens e vídeos inserindo, por exemplo, o rosto de uma pessoa em outro corpo. Em 2018, um caso envolvendo a técnica repercutiu no mundo todo. Em um vídeo, Barack Obama fazia uma série de afirmações polêmicas. No entanto, o conteúdo era falso e foi manipulado pelo cineasta Jordan Peele para alertar o público sobre sobre os perigos da desinformação online.

O caso de Barack Obama não foi o único. Com a popularização da técnica, que se tornou mais acessível e sofisticada, outros vídeos ganharam destaque, gerando notícias falsas sobre diversos assunto. Pensando nisso, o Facebook se juntou à Microsoft e várias universidades, incluindo Oxford, Berkeley e MIT, para criar o Deepfake Detection Challenge (DFDC).

A empresa investirá cerca de US$ 10 milhões em recursos para a iniciativa, criando um conjunto de dados com possíveis cenários de deepfakes. O objetivo é incentivar a indústria tecnológica a criar métodos para detectar vídeos manipulados e impedir que eles sejam disseminados nas plataformas digitais. 

“As técnicas de deepfakes, que apresentam vídeos gerados pela IA de pessoas reais fazendo e dizendo coisas fictícias, têm implicações significativas para determinar a legitimidade das informações apresentadas online. No entanto, o setor não possui um ótimo conjunto de dados ou benchmark para detectá-los. Queremos catalisar mais pesquisa e desenvolvimento nessa área e garantir que surjam melhores ferramentas de código aberto para detectar falhas profundas” disse Mike Schroepfer, diretor de tecnologia do Facebook, em um comunicado.

Banco de dados

O Deepfake Detection Challenge reunirá um conjunto de vídeos manipulados pelo próprio Facebook com atores contratados e técnicas avançadas. Esses dados serão disponibilizados em dezembro para os interessados no assunto, que poderão criar soluções e testá-las, colocando os resultados em uma tabela de classificação. O Facebook também planeja oferecer premiações para incentivar a participação dos pesquisadores.

“Precisamos do envolvimento total da comunidade de pesquisa em um ambiente aberto para desenvolver métodos e sistemas que possam detectar e mitigar os efeitos negativos da multimídia manipulada”, disse Rama Chellappa, professor da Universidade de Maryland, uma das parceiras do Facebook. “Ao disponibilizar um grande conjunto de mídias genuínas e manipuladas, o desafio proposto permitirá que a comunidade lide coletivamente com essa crise iminente”.