Moda de vídeos falsos por IA alimenta o sexismo na internet

Washington, Estados Unidos - Os vídeos são de um realismo impressionante: mostram mulheres de biquíni fazendo entrevistas na rua e gerando comentários obscenos, mas são falsos, produzidos por inteligência artificial para inundar as redes sociais com conteúdo sexista.

Estes conteúdos, criados significativamente com ferramentas de Inteligência Artificial (IA) de baixa qualidade, com frequência desbancam as publicações autênticas e borram a linha entre a realidade e a ficção.

Esta tendência deu lugar a uma indústria artesanal de influenciadores que produzem conteúdo sexualizado em série, motivada por programas de incentivos às plataformas que recompensam com dinheiro os produtores virais.

Muitos clipes gerados por IA, repletos de humor vulgar, sugerem mostrar entrevistadoras com pouca roupa nas ruas da Índia e do Reino Unido.

Reproduzidos milhões de vezes

A equipe de checagem da AFP encontrou centenas de vídeos deste tipo no Instagram, muitos deles falados em hindi, que mostram os entrevistados fazendo comentários misóginos e sexistas com indiferença, às vezes chegando a agarrar as mulheres, enquanto uma multidão de homens ao fundo os observa boquiabertos ou rindo.

Estes vídeos foram reproduzidos milhões de vezes.

Foram criados usando o gerador de IA Veo 3, do Google, conhecido por suas imagens hiper-realistas, informou a empresa americana de cibersegurança GetReal Security em uma análise compartilhada com a AFP.

Alimentar o sexismo

“A misoginia que geralmente se mantém reservada a conversas de vestiário e grupos agora está se transmutando para imagens geradas por IA”, disse à AFP Nirali Bhatia, psicóloga radicada na Índia, especializada no ciberespaço.

“Isso faz parte do dano de gênero mediado pela IA”, acrescentou, ressaltando que a tendência é “alimentar o sexismo”.

A tendência é que a internet agora esteja cada vez mais saturada com memes, vídeos e imagens geradas por IA, que disputam a atenção com - e ofuscam cada vez mais - o conteúdo autêntico.

“O conteúdo gerado por IA e qualquer tipo de conteúdo de IA não rotulado corroem lentamente a pouca confiança restante no conteúdo visual”, disse à AFP Emmanuelle Saliba, da GetReal Security.

Imagens chocantes

O conteúdo misógino mais viral costuma se basear em imagens chocantes, como por exemplo vídeos no Instagram e no TikTok que, segundo a revista Wired, foram gerados usando o Veo 3 e retratam mulheres negras como primatas com pés grandes.

Vídeos em uma conta popular do TikTok enumeram, de forma debochada, o que algumas "garotas indomáveis" fariam por dinheiro.

Conteúdo sensacionalista

As mulheres também são material para conteúdo sensacionalista impulsionado pela IA.

A verificação da AFP rastreou vídeos virais de uma falsa treinadora de animais chamada "Jessica Radcliffe" sendo atacada até a morte por uma orca durante um show ao vivo em um parque aquático. Nada aconteceu de verdade.

O vídeo divulgou rapidamente através de plataformas como TikTok, Facebook e X, e gerou uma comoção global de usuários que acreditaram que a mulher do vídeo era real.

Irreal

No ano passado, Alexios Mantzarlis, diretor da Iniciativa de Segurança e Confiança da Cornell Tech, encontrou 900 contas no Instagram de “modelos” provavelmente gerados por IA, predominantemente femininas e no geral usando pouca roupa.

Essas contas armadilhadas acumularam no total 13 milhões de seguidores e publicaram mais de 200.000 imagens, monetizando o resultado ao redirecionar suas audiências para plataformas comerciais de troca de conteúdo.

Com a regulamentação online das falsificações criadas pela IA, "os números agora são inquestionavelmente muito maiores", disse Mantzarlis à AFP.

Slop

O conteúdo 'slop' (lixo virtual) financeiramente incentivado está se tornando cada vez mais difícil de controlar, pois os criadores recorrem à produção de vídeos com IA como trabalho ocasional.

Muitos criadores no YouTube e no TikTok oferecem cursos pagos sobre como monetizar material viral gerado por IA em plataformas, muitos dos quais reduziram sua dependência em verificadores de fatos humanos e diminuíram a moderação de conteúdo.

Luta social e cultural

Algumas plataformas vêm tentando tomar medidas contra as contas que promovem conteúdo 'slop'. Recentemente, o YouTube assinalou que os criadores de conteúdo "não autêntico" e "produzido significativamente" não seriam elegíveis para obter dinheiro.

“A IA não inventa a misoginia, simplesmente reflete e amplifica o que já existe”, disse à AFP a consultora de IA, Divyendra Jadoun.

“Se as audiências recompensam este tipo de conteúdo com milhões de ‘likes’, os algoritmos e os criadores de IA continuam a produzi-lo. A maior luta não é apenas tecnológica, é social e cultural”, concluiu.