Avanços tecnológicos trazem consigo a promessa de um futuro mais eficiente e conectado. No entanto, é fundamental questionar: será que a inteligência artificial (IA) e os algoritmos estão realmente construindo um ambiente neutro e justo? A resposta, frequentemente, revela uma realidade preocupante: sistemas automatizados podem, sim, intensificar e perpetuar preconceitos existentes. Esse fenômeno é conhecido como violência algorítmica, um conceito crucial para compreendermos as novas formas de discriminação no mundo digital.
A Voz Silenciada: Experiências de Discriminação Digital
Há relatos consistentes de como algoritmos podem impactar a visibilidade de determinados grupos. Um exemplo marcante vem do influenciador e cientista da comunicação Christian Gonzatti. Ao criar conteúdo com temática LGBTQIA+, ele notou que suas publicações frequentemente recebiam menor alcance em redes sociais. A ausência de transparência sobre os critérios de moderação das plataformas agrava a situação, deixando criadores sem entender por que seus materiais são penalizados.
O Algoritmo e a Dificuldade de Contexto
Gonzatti, que também é professor na Unisinos, conta que ao nomear seu canal de cultura pop LGBTQIA+ como 'Viado Nerd', a plataforma interpretou o termo de forma literal e pejorativa, ignorando a ressignificação positiva adotada pelo movimento. As denúncias contra a página foram acatadas como se fossem discursos de ódio, levando a uma diminuição drástica de sua visibilidade. Mesmo após renomear o projeto para 'Diversidade Nerd', a supressão continuou, com o alcance de posts contendo palavras como 'gay' ou 'lésbica' sendo consistentemente menor.
Além das Redes Sociais: Manifestações da Violência Algorítmica
A violência algorítmica vai muito além da moderação de conteúdo em redes sociais. Ela se manifesta de diversas formas, impactando a vida de milhões de pessoas.
Prejuízo no Reconhecimento Facial e Deepfakes
Sistemas de reconhecimento facial, por exemplo, demonstram vieses ao classificar traços de etnias não brancas de maneira distorcida ou negativa. Outra preocupação crescente é o uso de inteligência artificial para criar 'deepfakes', vídeos e áudios falsos realistas, capazes de destruir reputações e espalhar desinformação com grande eficácia.
Algoritmos e a Pressão sobre Trabalhadores
A influência algorítmica também atinge a rotina de trabalhadores de plataformas digitais. Um motorista de aplicativo em São Paulo relata a pressão constante para aumentar a produtividade. Mensagens sobre bônus por mais uma corrida, por exemplo, podem levar o profissional a estender sua jornada exaustivamente, ignorando limites físicos e a necessidade de descanso. Conforme o cientista da computação Alexandre Gonçalves, esses algoritmos 'forçam as pessoas a aumentar a produtividade de um jeito que não reconhece os limites naturais da humanidade', caracterizando uma forma de violência.
Desvendando o Conceito: O Que é Violência Algorítmica?
O jornalista Daniel Trielli, professor na Universidade de Maryland, define a violência algorítmica como um tipo de ataque ou agressão que depende ou se integra a sistemas computacionais automatizados. Isso abrange não apenas redes sociais, mas também plataformas de vigilância e ferramentas de IA. Esses sistemas não só podem intensificar formas tradicionais de violência, mas também criam novas.
Amplificando a Desinformação
Um dos exemplos mais comuns é a disseminação de notícias falsas. Algoritmos de redes sociais são programados para amplificar conteúdos com alto apelo emocional, o que favorece a viralização de fake news, impactando a opinião pública e, por vezes, instigando a violência social.
Origem e Amplitudade do Debate
O termo 'violência algorítmica' começou a ser empregado por acadêmicos e ativistas no início da década passada, ganhando fundamentação a partir de obras como 'Topologia da Violência', do filósofo Byung-Chul Han. A assistente social Bruna Irineu, professora na Universidade Federal de Mato Grosso, destaca que não há um criador único da expressão, mas sim um campo vasto de discussões sobre discriminação, opressão, racismo e injustiça automatizada, onde o conceito se insere.
A Ilusão da Neutralidade: Por Que Algoritmos Reproduzem Preconceitos
Algoritmos: Espelhos da Sociedade Humana
No cerne da questão está a falsa percepção de que algoritmos são neutros. Eles não são entidades imparciais; são criados por pessoas, empresas e instituições que operam dentro de sociedades com profundas desigualdades estruturais, como racismo e sexismo. Dessa forma, as ferramentas de inteligência artificial são treinadas com base em milhões de dados e decisões humanas, absorvendo e replicando esse 'pensamento' predominante.
A antropóloga Larissa Pelúcio, professora na Universidade Estadual Paulista (Unesp), resume que a violência algorítmica ocorre quando sistemas automatizados, plataformas digitais, IAs, mecanismos de busca e redes sociais produzem, reproduzem e amplificam desigualdades sociais. Ela se manifesta quando a tecnologia decide quem será visto, quem será silenciado, quem será considerado suspeito ou quem terá acesso a oportunidades e créditos, perpetuando ciclos de exclusão e injustiça.
Conclusão: Desafios e o Caminho para um Futuro Digital Mais Justo
Entender a violência algorítmica é o primeiro passo para mitigar seus efeitos. A sociedade precisa reconhecer que a tecnologia, apesar de seu potencial transformador, não está imune aos vieses humanos. É imperativo que desenvolvedores, legisladores e usuários se unam para exigir mais transparência, accountability e, acima de tudo, a construção de algoritmos que promovam a equidade, e não a desigualdade. Somente assim poderemos aspirar a um futuro digital que beneficie a todos, sem reforçar as sombras do preconceito.
Fonte: https://g1.globo.com
