Tecnologia desenvolvida por pesquisadores identifica sinais de fabricação ou manipulação em imagens e apresenta as evidências que sustentam a análise.
Uma imagem criada ou alterada por Inteligência Artificial pode parecer convincente o suficiente para passar despercebida durante uma campanha eleitoral. Para enfrentar esse desafio, pesquisadores desenvolvem ferramentas capazes não apenas de identificar conteúdos sintéticos, mas também de apontar os sinais que levaram à suspeita de manipulação.
📲Quer receber notícias direto no celular? Entre no nosso grupo no WhatsApp.
A preocupação aumenta à medida que as tecnologias generativas avançam. Em períodos eleitorais, o grande volume de informações e a polarização política favorecem a rápida circulação de conteúdos que podem desacreditar candidatos, influenciar eleitores, espalhar desinformação e comprometer o debate democrático.
O professor Anderson Rocha, da Unicamp, explica que os indícios visuais mais evidentes ficaram menos frequentes com a evolução das ferramentas de geração de imagens. “Alguns anos atrás a IA criava imagens e deixava pistas visuais como texturas malfeitas, cabelos não tão realistas, olhos e boca, às vezes, não perfeitamente formados e problemas na geração de mãos e outros elementos. A IA de hoje já resolveu esse problema e agora as pistas são mais sofisticadas, no nível de pixel e aquisição/geração da imagem em si”, explica Anderson, que também coordena o laboratório de Inteligência Artificial Recod.ai.
Detecção de IA nas eleições exige análise mais sofisticada
Quando uma fotografia é analisada, alguns dos sinais podem estar relacionados à forma como a luz interage com o sensor da câmera ou à própria organização dos pixels. São características que dificilmente podem ser identificadas apenas pela observação humana.
“Quando é uma fotografia, há uma interação da luz com o sensor que a IA ainda não imita direito, além de deixar pistas na própria constituição da imagem, ao combinar pixels vizinhos”, conta Rocha.
É nesse nível de análise que entra o FakeScope, modelo desenvolvido pelos pesquisadores para reconhecer imagens produzidas por outras ferramentas de IA. A tecnologia vai além de uma classificação binária sobre a autenticidade do arquivo, apresentando evidências utilizadas para chegar à conclusão.
O sistema observa diferentes tipos de rastros. Entre eles estão características anatômicas incompatíveis com a fisiologia, relações inadequadas entre pessoas ou objetos e o ambiente, conflitos entre diferentes fontes de iluminação e problemas na representação de textos, como palavras inexistentes ou grafias incorretas.
O modelo combina duas abordagens. Uma análise quantitativa estima, em uma escala de 0% a 100%, a probabilidade de a imagem ter sido criada ou modificada por IA. A outra é qualitativa e detalha as pistas utilizadas para sustentar o resultado.
Para Yixuan Li, pós-doutoranda na Universidade de Bristol e integrante do Recod.ai, explicar a conclusão é fundamental diante da evolução das imagens sintéticas. “Explicar os motivos que levaram à conclusão tornou-se uma prioridade porque as imagens sintéticas são frequentemente convincentes o suficiente para criar ambiguidade tanto para humanos quanto para detectores. A implementação prática exige que os modelos justifiquem suas previsões com evidências visuais verificáveis”, explica.
FakeScope integra monitoramento durante a campanha
O FakeScope faz parte do VigIA, programa criado para monitorar imagens e vídeos suspeitos de terem sido gerados ou manipulados por IA durante a campanha eleitoral. A iniciativa também busca acompanhar o uso da tecnologia, identificar possíveis violações às regras impostas pela Justiça e combater a desinformação.
O programa reúne Agência Lupa, Recod.ai, FAAP e Meedan. Dentro do VigIA, o FakeScope é utilizado junto a outros modelos de detecção de imagens, que analisam diferentes características do conteúdo.
Entre essas ferramentas estão modelos de nível de pixel capazes de produzir mapas de calor indicando regiões com maior probabilidade de terem sido criadas, falsificadas ou modificadas por IA. O FakeScope acrescenta explicações que podem ser interpretadas por pessoas durante a análise técnica.
A tecnologia, porém, não substitui a avaliação humana. “Em Forense Digital, acreditamos que o humano sempre precisa fazer parte do processo. Não provemos uma resposta final. O humano precisa analisar as pistas que elencamos com nossas ferramentas e decidir por si”, reforça Rocha.
Quando um conteúdo apresenta sinais que justificam uma investigação, a equipe do VigIA considera também a origem da imagem, o contexto em que ela circula, a intenção associada à publicação e seu possível impacto social. A classificação resulta, portanto, da combinação entre os recursos tecnológicos e a análise dos pesquisadores e jornalistas.
Em uma disputa eleitoral, identificar uma imagem produzida por IA é apenas uma parte do problema. A interpretação das evidências e a compreensão de como aquele material pode interferir na percepção dos eleitores tornam a análise humana uma etapa central do processo.
Leia mais:
Senado aprova projeto que cria incentivos fiscais para data centers no Brasil
Gripen F faz primeiro voo na Suécia com participação brasileira
TSE e Google lançam ferramenta para proteger candidatos de deepfakes
Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook
