Um deepfake é um vídeo em que o rosto de alguém é inserido digitalmente sobre o de outra pessoa, num registro pré-gravado. Graças à inteligência artificial, os movimentos de olhos e bocas são sincronizados e, muitas vezes, tecnologias de geração de voz também são usadas.
Assim, cria-se conteúdo falso, usado para espalhar fake news, manipular discursos políticos ou até mesmo gerar pornografia. Recentemente, versões sintéticas de Brad Pitt e Tom Cruise protagonizaram uma cena de luta que nunca existiu no mundo real, por exemplo. Vídeos como esse acenderam o alerta de Hollywood em relação aos direitos de imagem de seus astros.
Em entrevista à revista americana The Hollywood Reporter, Mary Ellen Coe, diretora de negócios do YouTube, diz que é responsabilidade da plataforma combater esse tipo de conteúdo.
“Estamos trabalhando nisso há um tempo, desde que começamos a pensar nas implicações da IA na nossa plataforma. Francamente, ainda nem vimos todas as possibilidades que podem surgir (a partir dessa tecnologia), e estamos trabalhando com agências de atalentos e empresas de gestão para garantir que pessoas públicas possam se antecipar e impedir que coisas negativas aconteçam”, afirma a executiva.
Os testes começaram há cerca de um ano e meio, com alguns dos principais youtubers do site. Neste ano, a empresa expandiu o serviço para alguns políticos, até enfim disponibilizá-lo para qualquer pessoa que atenda aos critérios, ela tendo um canal no YouTube ou não.