A evolução da Inteligência Artificial (IA), trouxe novos desafios para todos os usuários da internet, entre eles a identificação de deepfakes. Os vídeos extremamente realistas são gerados através de uma técnica que usa redes neurais avançadas para manipular imagens e sons gerando áudios falsos que imitam a aparência e a voz de qualquer pessoa.
A tecnologia utilizada para a produção das deepfakes foi criada para fins de entretenimento, mas rapidamente desviada para aplicação de golpes, fraudes, disseminação de informações falsas e até mesmo pornografia. Essas aplicações comprometem o senso comum e impedem a maioria das pessoas de discernir o que é real do que foi criado para confundir e enganar.
Como funciona a deepfake
Esse formato de fake news funciona a partir de algorítimos de aprendizado profundo, que “treinam” modelos de IA usando um grande volume de dados visuais e sonoros da pessoa-alvo. Esse processo permite que a IA aprenda características como expressões faciais, timbre da voz e trejeitos. A partir desse aprendizado, essas informações são aplicadas em uma imagem ou vídeo pré selecionado, resultando em um novo vídeo que parece verídico. A imagem e a voz são da pessoa alvo, mesmo que ela esteja agindo de maneira completamente inventada, a precisão visual e auditiva são as encarregadas de tornar o vídeo crível.
Caso David Almeida e atores que se passavam por médicos
Alguns exemplos de uso de deepfake para disseminação de informações falsas aconteceu com David Almeida, prefeito reeleito de Manaus. Uma série de áudios utilizando sua voz foram divulgados afim de comprometer e difamar uma pessoa pública. O fato, que aconteceu em fevereiro desse ano chamou tanta atenção que a Polícia Federal entrou em ação para destacar os perigos do uso de IA e suas aplicações nas campanhas eleitorais.
Recentemente, atores se passaram por profissionais da saúde lendo roteiros de vídeos que prometiam curas milagrosas através dos produtos anunciados sem a sinalização de se tratar de um comercial.
Como identificar um conteúdo deepfake
Para se proteger de deepfakes e vídeos manipulados, é importante adotar algumas práticas e ferramentas que ajudam a verificar a autenticidade do conteúdo. Confira as nossas dicas:
- Verifique a fonte: dê prioridade a sites e canais oficiais. Conteúdos suspeitos ou sensacionalistas geralmente vem de fontes desconhecidas ou não verificadas;
- Preste atenção aos detalhes visuais. Deepfakes geralmente falham em detalhes como sombras, iluminação inconsistente, movimentos faciais pouco naturais e olhos que não acompanham o foco. Geralmente, essas imperfeições são indícios de manipulação;
- Use ferramentas de verificação: o InVID, uma extenção de navegador, pode ajudar a analisar e validar vídeos suspeitos. A ferramenta faz uma análise frame a frame ajudando a detectar alterações no conteúdo original. Clique aqui para instalar;
- Fique atento ao conteúdo e ao tom. Conteúdos exagerados, sensacionalistas e com apelo emocional são mais propensos a serem falsos ou manipulados;
- Busque canais de denúncia: em caso de suspeita, você pode denunciar o conteúdo em plataformas como YouTube, Facebook e Instagram, essas redes sociais possuem mecanismos de verificação e controle de conteúdo falso;
- Identifique marcas d’agua invisíveis: empresas como o Google e OpenAI (responsável pelo ChatGpt), estão desenvolvendo tecnologias de identificação de conteúdos gerados por IA, através de marcasd’agua invisíveis em vídeos, imagens e textos. Essas marcas permitem rastrear a origem do conteúdo diferenciando produções originais de vídeos manipulados;
Com esses cuidados básicos, você será capaz de identificar conteúdos falsos e se proteger de disseminação de fake news e deepfakes.
Leia mais:
Deepfake: caso de David Almeida vira referência para TSE
Eleições 2024: William Bonner é alvo de deepfake
5 dicas para identificar deepfake nas eleições 2024
Siga nosso perfil no Instagram e curta nossa página no Facebook
