Ferramenta de IA produz imagens íntimas falsas de mulheres e crianças e viola legislação brasileira
A disseminação de deepfakes com conteúdo sexual gerados pela inteligência artificial Grok motivou uma ação contundente do Instituto de Defesa de Consumidores (Idec) nesta segunda-feira (12). O órgão solicitou formalmente ao governo brasileiro a suspensão imediata da ferramenta, pertencente ao bilionário Elon Musk. A tecnologia tem sido amplamente utilizada para manipular fotos de mulheres, adolescentes e crianças, criando imagens de nudez e atos sexuais falsos sem qualquer consentimento das vítimas.
📲Quer receber notícias direto no celular? Entre no nosso grupo no WhatsApp.
O centro da denúncia gira em torno da capacidade da IA de “despir” virtualmente pessoas a partir de fotos comuns postadas em redes sociais. O Idec reuniu evidências de que o sistema não apenas permite, mas facilita a criação de deepfakes com conteúdo sexual, violando gravemente a dignidade das vítimas e expondo menores de idade a situações de pornografia infantil simulada.
A mecânica da exploração sexual virtual
A manipulação digital conhecida como deepfake utiliza algoritmos avançados para substituir rostos ou alterar corpos em vídeos e fotos com extremo realismo. No caso do Grok, a ferramenta integrada à rede social X (antigo Twitter) tornou-se o motor de uma “trend” perversa no último mês. Usuários têm utilizado a IA para transformar fotos de biquíni ou roupas casuais em imagens pornográficas explícitas.
Esta onda de deepfakes com conteúdo sexual atingiu um ponto crítico na última semana. O portal g1 relatou o caso de uma brasileira que descobriu uma montagem sua circulando na rede. A vítima, que teve uma foto de praia manipulada para parecer que estava nua, descreveu a violação como um “sentimento horrível”. O caso ilustra como a tecnologia, sem filtros éticos, está sendo usada como arma de violência de gênero e exploração digital.
Falhas de segurança e violações legais
O Idec argumenta que a facilidade com que se produzem deepfakes com conteúdo sexual no Grok demonstra um “defeito grave na prestação do serviço”, conforme o Código de Defesa do Consumidor (CDC). A plataforma falha em oferecer a segurança mínima esperada, permitindo que a inovação tecnológica sirva de instrumento para crimes contra a honra e a dignidade sexual.
No ofício enviado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, o instituto lista diversas infrações legais decorrentes dessa falha:
-
Estatuto da Criança e do Adolescente (ECA) e ECA Digital: A criação de imagens sexualizadas de menores fere diretamente a proteção integral devida a crianças e adolescentes.
-
Lei Geral de Proteção de Dados (LGPD): O uso não autorizado de dados biométricos e imagens pessoais para fins degradantes.
-
Marco Civil da Internet: Violação da intimidade e da vida privada dos usuários.
Segundo o instituto, a ferramenta opera sem salvaguardas mínimas para impedir a geração de material abusivo, difundindo imagens íntimas falsas de forma irrestrita.
Reação do governo e cenário internacional
O pedido de suspensão foi encaminhado a um grupo de trabalho que envolve o Ministério da Justiça, o Ministério dos Direitos Humanos, a Secretaria de Comunicação Social da Presidência e o Conanda. A gravidade dos deepfakes com conteúdo sexual exige, na visão do Idec, uma intervenção estatal rápida para cessar os danos contínuos às vítimas.
O problema não é exclusivo do Brasil. O ofício ressalta que autoridades da União Europeia, Reino Unido, França e Índia já investigam a plataforma devido à proliferação desse mesmo tipo de material. A falta de moderação de conteúdo na rede social X e a permissividade da IA Grok têm gerado uma crise global de imagem para as empresas de Musk.
Para o Idec, a conclusão é clara. A inovação não pode se sobrepor aos direitos humanos fundamentais. “Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, finaliza a entidade, reforçando que a produção de pornografia não consensual deve ser barrada na fonte.
Leia mais:
Nvidia revela nova IA que permite a carros autônomos “raciocinar” e reagir ao imprevisto
Robôs e humanoides são destaque na CES em Las Vegas com avanço da IA física
CES 2026: O guia definitivo sobre o futuro da tecnologia e as grandes estreias em Las Vegas
Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook
