Especialistas apontam que sistemas automatizados podem ampliar preconceitos e desigualdades já presentes na sociedade
A violência algorítmica faz parte da rotina digital de milhões de pessoas, muitas vezes sem que elas percebam. O fenômeno ocorre quando algoritmos, plataformas digitais e sistemas de inteligência artificial reproduzem ou ampliam preconceitos, desigualdades e formas de discriminação já existentes na sociedade.
📲Quer receber notícias direto no celular? Entre no nosso grupo no WhatsApp.
Há mais de uma década, o influenciador digital e professor universitário Christian Gonzatti convive com uma situação que considera um exemplo desse problema. Quando criou o canal Viado Nerd, voltado à cultura pop sob a perspectiva LGBTQIA+, percebeu que o próprio nome do projeto passou a ser alvo de denúncias e restrições nas redes sociais.
Segundo ele, as plataformas não conseguiam interpretar o contexto da palavra utilizada pelo movimento LGBTQIA+ como forma de ressignificação. Em vez disso, o sistema tratava o termo como algo ofensivo.
“Se coloco a palavra gay ou lésbica na legenda, por exemplo, o alcance é menor”, afirma Gonzatti.
Que atualmente coordena o projeto Diversidade Nerd e leciona na Universidade do Vale do Rio dos Sinos (Unisinos).
O caso ilustra uma discussão cada vez mais presente entre pesquisadores da área de tecnologia, comunicação e direitos humanos. Afinal, até que ponto as máquinas reproduzem os mesmos preconceitos existentes no mundo real?
Quando a tecnologia amplia desigualdades
Para especialistas, a violência algorítmica ocorre quando sistemas automatizados passam a interferir na vida das pessoas de maneira injusta ou discriminatória.
O jornalista Daniel Trielli, professor da Universidade de Maryland, nos Estados Unidos, define o fenômeno como uma forma de agressão que depende ou está integrada a sistemas computacionais automatizados. Isso inclui algoritmos de redes sociais, ferramentas de vigilância digital e aplicações de inteligência artificial.
Na prática, os efeitos aparecem em situações bastante diversas. Um dos exemplos mais conhecidos envolve a disseminação de notícias falsas. Plataformas digitais costumam priorizar conteúdos capazes de gerar reações emocionais intensas, ampliando o alcance de mensagens enganosas ou manipuladas.
Mas os impactos vão além.
O cientista da computação Alexandre Gonçalves, pesquisador da Universidade de Illinois Urbana-Champaign, cita os aplicativos de transporte como exemplo de como algoritmos podem influenciar comportamentos.
Ele relata o caso de motoristas que recebem notificações informando que estão próximos de alcançar uma bonificação financeira. Muitas vezes, isso os leva a prolongar jornadas já exaustivas.
“Os algoritmos forçam as pessoas a aumentar a produtividade de um jeito que não reconhece os limites naturais da humanidade. É violência”, afirma.
Algoritmos não são neutros
Embora sejam frequentemente apresentados como ferramentas objetivas, especialistas destacam que os algoritmos são criados por pessoas e treinados com dados produzidos por seres humanos.
Por isso, carregam inevitavelmente marcas das sociedades em que foram desenvolvidos.
A antropóloga Larissa Pelúcio, professora da Universidade Estadual Paulista (Unesp), explica que a violência algorítmica surge quando tecnologias passam a definir quem terá visibilidade, oportunidades ou reconhecimento social.
“Ela aparece quando uma tecnologia decide quem será visto, quem será silenciado, quem será considerado suspeito, quem terá acesso a oportunidades, crédito, emprego ou proteção”, afirma.
A assistente social Bruna Irineu, professora da Universidade Federal de Mato Grosso (UFMT), acrescenta que os sistemas automatizados não criam as desigualdades sociais, mas podem potencializá-las.
Segundo ela, a tecnologia organiza e amplia preconceitos que já existiam antes da digitalização.
O desafio brasileiro
No Brasil, pesquisadores apontam que o problema ganha contornos ainda mais complexos devido à combinação entre forte presença digital e profundas desigualdades sociais.
Um dos casos mais citados envolve falhas em sistemas de reconhecimento facial.
Estudos da Defensoria Pública do Rio de Janeiro mostraram que, entre os casos de reconhecimento facial equivocado que resultaram em prisões preventivas de inocentes, 83% das vítimas eram pessoas negras.
Para especialistas, isso demonstra como o racismo estrutural pode ser reproduzido no ambiente digital quando bases de dados enviesadas são utilizadas para treinar sistemas automatizados.
Além disso, pesquisadores alertam que muitas tecnologias utilizadas no país são desenvolvidas em contextos estrangeiros, sem considerar adequadamente as características demográficas e sociais brasileiras.
Como enfrentar a violência algorítmica
Não existe uma solução única para o problema. Especialistas defendem uma combinação de educação digital, transparência tecnológica e regulação.
O fortalecimento do letramento digital é apontado como uma das principais ferramentas para que a população compreenda como seus dados são utilizados e de que forma algoritmos influenciam decisões cotidianas.
Também há cobranças por maior transparência das plataformas sobre os critérios utilizados para distribuir conteúdos, recomendar informações ou moderar publicações.
Outra medida considerada fundamental é a realização de auditorias independentes em sistemas de inteligência artificial, especialmente em áreas sensíveis como segurança pública, mercado de trabalho, crédito e acesso a serviços.
Para os pesquisadores, combater a violência algorítmica exige mais do que corrigir falhas técnicas. O desafio passa também pelo enfrentamento das desigualdades históricas que acabam sendo reproduzidas pelas novas tecnologias.
Valoriza o jornalismo de confiança? Clique aqui, e marque nosso perfil como sua fonte favorita no Google para não perder nenhuma notícia.
Leia mais:
Nobel de Economia critica teorias ‘estúpidas’ sobre inteligência artificial
Como a IA pode impulsionar pequenas empresas
Redes sociais superam TV e jornais como principal fonte de informação
Siga nosso perfil no Instagram, Tiktok e curta nossa página no Facebook
