DeepFake e o desafio do que é real

Conforme a tecnologia avança, fica mais difícil saber o que é real ou criado por uma máquina

Lucas Souza
Lucas Souza

 

DeepFake e o desafio do que é real
 

Você já colocou sua face em cenas de cinema? Ou se divertiu com vídeos que trazem imagens de rostos de pessoas públicas em outros corpos e situações inusitadas? Então você já sabe o que é deepfake. É uma tecnologia que utiliza a inteligência artificial para criar vídeo, áudio e imagem com conteúdo falso em que uma pessoa se passa pela outra. Essa técnica deriva do DeepLearing, em português aprendizagem profunda, que é baseado em um conjunto de algoritmos que tem a capacidade de aprenderem com os próprios dados. Essa aplicação é utilizada principalmente para a criação de vídeos falsos, em que é possível combinar um vídeo a uma fala qualquer, mesmo que a pessoa nunca tenha dito aquilo.

A técnica que se popularizou para a criação desse tipo de conteúdo é chamada de Redes Adversárias Generativas (GANs). Essa técnica foi introduzida em um artigo de pesquisadores da Universidade de Montreal, em 2014 e funciona da seguinte forma: há dois tipos de inteligência artificial – uma geradora e outra discriminadora - ambas são conflitadas e alimentadas com informações, enquanto a geradora se aprimora em desenvolver fakes, a discriminadora vai ganhando experiência em distinguir a autenticidade. As GANs têm um grande potencial devido a sua capacidade de aprender, imitar e criar mundos semelhantes ao nosso, entretanto há limitações devido a grande quantidade de dados necessária para treinamento, sendo bons para sintetizar imagens, mas não para a criação de vídeos. Hoje, podemos afirmar que as deepfakes são criadas por uma constelação de algoritmos de Inteligência Artificial (IA).

Existem diversas aplicativos e softwares capazes de criar conteúdos falsos, os mais utilizados e disponíveis para o público são: DeepFaceLab (aplicativo de mudança e envelhecimento de rosto), FakeApp, Zao (de origem chinesa) e Wombo (aplicativo de sincronização labial). Os aplicativos de DeepFake podem ser facilmente encontrados na internet ou no repositório oficial do GitHub, uma comunidade de código aberto onde várias pessoas podem fazer alterações separadas em aplicativos e páginas da web ao mesmo tempo.

Infelizmente essa tecnologia começou a ser usada de forma maliciosa e prejudicial. Em 2017, a deepfake ficou muito popular em fóruns do Reddit quando um usuário publicou vários vídeos de caráter pornográfico. Ele utilizava o rosto de celebridades como Daisy Ridley, de Star Wars, Gal Gadot (Mulher Maravilha), Emma Watson, Scarlett Johansson e Katy Perry em diversos atos obscenos. Essa criação abriu uma porta para a “pornografia de vingança”, quando uma pessoa utiliza o rosto de ex-parceiras para expor a vítima em vídeos falsos.


RISCOS E BENEFÍCIOS – Segundo Arthur Igreja, especialista em tecnologia, os riscos do uso da deepfake são vários, vai desde a criação de um determinado evento que compromete uma pessoa até influenciar quem não tem tanta intimidade com a tecnologia, podendo mudar a opinião dessa pessoa sobre determinados temas. “Você pode afetar a forma como os fatos são vistos, você pode criar incríveis problemas de reputação e a pessoa vai ter que ficar se explicando depois”, comenta.

De acordo com o especialista, há também benefícios dessa tecnologia que vão desde a área de entretenimento em que é possível resgatar artistas que já morreram, fazer alterações em obra e criar experiencias imersivas, como a de Salvador Dali na Flórida, até o escalonamento de treinamentos. “Por exemplo, tem empresas que você consegue criar personagens, imputando texto você já consegue criar um conteúdo em vídeo”.


ENTRETENIMENTO – Como dito acima, as deepfakes podem ser utilizadas no campo do entretenimento, principalmente no ramo do cinema e facilitar a pós-produção de uma obra. Por exemplo, o filme Projeto Gemini, em que o ator Will Smith interpreta um clone de seu personagem mais novo, foi utilizado capturas de movimento, ou mocap, para recriar Will com 23 anos. Essa tecnologia também foi usada no filme O Hobbit: A Desolação de Smaug quando ator Benedict Cumberbatch interpretou o dragão Smaug. Hoje poderiam ser aplicadas as técnicas de deepfake tanto para produzir o Will mais jovem quanto o Dragão.

Já no Brasil, essa tecnologia é utilizada pelo jornalista Bruno Sartori, o mais famoso deepfaker da internet brasileira. Com um canal no YouTube de um pouco mais de 300 mil inscritos, ele faz vídeos humorísticos que envolvem figuras da política brasileira, como Lula e Bolsonaro, e até mesmo de celebridades. Recentemente ele publicou um vídeo em que troca o rosto de William Bonner com o de Silvio Santos na apresentação do Jornal Nacional.


POLÍTICA – No cenário da política mundial, as deepfakes são amplamente utilizadas para criar caos entre os eleitores e gerar vantagem política. Foi o que aconteceu nas eleições presidências dos Estados Unidos de 2019 que foram afetadas depois que a empresa FaceBook vazou dados sobre os perfis de milhares de eleitores para a Cambridge Analytica. Os dados foram usados para gerar notícias falsas (popularmente conhecido por fake news). Esse escândalo gerou um processo na corte norte americana que terminou com o CEO do Facebook, Mark Zucknberg, prometendo fazer alterações e reformas na plataforma para impedir que isso ocorra novamente. 

No Brasil o cenário não é diferente, nas eleições a presidência de 2018 circularam notícias falsas via aplicativo de mensagem WhatsApp em prol a candidatura de Jair Bolsonaro (sem partido). Foram utilizados robôs para disparar mensagens em massa com imagens, vídeos e informações que desmentiam a imprensa. O candidato a governador de São Paulo, João Dória (PSDB), teve um vídeo divulgado nas Eleições gerais de 2018 em que aparecia no corpo de um homem fazendo orgia com seis mulheres, apesar de todos suspeitarem ser uma deepfake, foi provado que o vídeo não sofreu manipulação digital. 

Futuramente esses fatos podem ser ainda mais preocupantes dado ao avanço tecnológico dos últimos anos. Imagine não poder mais distinguir o que é real e o que é feito por uma Inteligência Artificial (IA). Arthur Igreja diz que há pistas que são chamadas de “glitch” que ajudam nessa distinção. “O olho e o cérebro têm a capacidade incrível de perceber descontinuidade em imagem, as expressões não são cem por cento fidedignas”.  Mas e você, acha que consegue distinguir o que é real e o que é fake?


LEIA TAMBÉM:

Folha conta histórias da vida privada - Sabe aquele recorte de jornal na gaveta ? Ele é um suvenir de uma memória marcada para sempre no coração das pessoas

Como você avalia o conteúdo que acabou ler?

Pouco satisfeito
Satisfeito
Muito satisfeito
Assine e navegue sem anúncios [+]

Últimas notícias

Continue lendo