A polícia chinesa prendeu um homem na província de Gansu, no noroeste da China, por crimes ligados à ferramenta de inteligência artificial ChatGPT. De acordo com as autoridades da região, o acusado utilizou o chatbot para criar e disseminar uma notícia falsa sobre um acidente de trem que deixou 9 vítimas em Lanzhou.
O intuito da desinformação era gerar pânico na população da região por meio das redes sociais. Após uma série de denúncias de internautas, a polícia cibernética da China abriu uma investigação. A apuração dos blogs de notícia presentes no Baidu – o equivalente do Google na China – registrou 21 postagens da notícia falsa, que obtiveram mais de 15 mil visualizações.
O acusado, identificado apenas pelo sobrenome Hong, é morador de Kongtong, distrito urbano de Gansu. Ele foi preso pela polícia local 11 dias após a disseminação de notícias falsas, conforme anúncio oficial das autoridades via WeChat.
Hong admitiu ter usado o ChatGPT para gerar conteúdo falso sobre o acidente antes de publicar tudo online. O acusado teria apenas modificado os locais para tentar ampliar o alcance da mentira criada pelo robô inteligente.
Se for condenado, Hong pode pegar até 10 anos de prisão pelo crime de perturbação. Um processo judicial foi instaurado para averiguar os danos e comprovar a associação do suspeito com a criação de pânico na população.
ChatGPT na China?
Curiosamente, o ChatGPT teve seu acesso bloqueado na China ainda em fevereiro. A medida foi tomada pelo governo chinês após preocupações sobre o mau uso da ferramenta para criação de desinformação. Em resposta, o Baidu iniciou a criação de um chatbot semelhante de uso permitido no território chinês, o ErnieBot.
Mesmo com a restrição, usuários conseguem burlar o firewall do governo e acessar a inteligência artificial da OpenAI. Dessa forma, Hong utilizou ferramentas de anonimato virtual para utilizar o ChatGPT em Gansu e cometer crimes.
A discussão sobre o potencial do ChatGPT e outros chatbots avançados para disseminação de desinformação não é de hoje. Com o avanço da tecnologia de IA, cada vez mais robôs são capazes de emular perfeitamente um texto escrito por um ser humano. Isso dificulta ainda mais o combate às notícias falsas em todo o mundo, inclusive no Brasil.
A notícia da primeira prisão ligada à informações falsas geradas por inteligência artificial chega no Brasil em um contexto político semelhante. Está em tramitação na Congresso o PL 2630/2020, conhecido como “PL das Fake News”. Com o grande foco midiático na medida, muitos mitos têm sido disseminados inclusive por autoridades políticas.
A Gazeta da Amazônia possui um guia esclarecendo algumas das informações falsas acerca do PL das Fake News, que pode ser acessado aqui.
