IA pode reforçar preconceitos? Entenda o conceito de violência algorítmica

A Violência Algorítmica: O Que É?

A violência algorítmica é um fenômeno que tem ganhado atenção nos últimos anos, especialmente nas redes sociais, onde algoritmos decidem o que é visto e o que é silenciado. O influenciador digital e cientista da comunicação, Christian Gonzatti, tem sido uma voz ativa nesse debate, denunciando como esses algoritmos podem perpetuar preconceitos e marginalizar vozes, especialmente no contexto LGBTQIA+.

Christian Gonzatti e Sua Luta

Com 33 anos, Gonzatti tem uma trajetória que se destaca não apenas como influenciador, mas também como professor na Universidade do Vale do Rio dos Sinos (Unisinos). Ele começou suas publicações com conteúdos culturais classificados como "nerd" dentro do segmento LGBTQIA+ em um canal inovador chamado Viado Nerd. No entanto, a sua experiência com algoritmos de redes sociais tem sido repleta de desafios.

Segundo Gonzatti, "O algoritmo não lê contexto", indicando que termos que são ressignificados pela comunidade podem ser interpretados negativamente por sistemas automáticos. Ele menciona: "A página começou a ser denunciada e a plataforma as acatou, como se o espaço fosse de veiculação de discursos de ódio", evidenciando a falta de compreensão do contexto cultural e social em que certas palavras e expressões são usadas.

Os Impactos da Superexposição e da Censura Algorítmica

A luta de Gonzatti não termina com a mudança do nome do seu projeto para Divulgação Nerd. Ele continua a enfrentar uma batalha constante contra o que considera uma forma de censura imposta por algoritmos que não levam em consideração a diversidade e a multiplicidade de vozes dentro da comunidade LGBTQIA+.

Gonzatti observa que "se coloco a palavra gay ou lésbica na legenda, por exemplo, o alcance é menor", o que levanta uma questão crucial: como podemos permitir que tecnologias dessa magnitude determinem a relevância e a visibilidade de vozes que já são historicamente marginalizadas? Esta é uma questão que não pode ser ignorada à medida que a inteligência artificial continua a integrar-se nas plataformas digitais.

Perspectivas Futuras

Com o crescimento da inteligência artificial nas redes sociais, é imperativo que usuários e criadores de conteúdo como Gonzatti não apenas continuem a lutar por suas vozes, mas também promovam uma maior conscientização sobre o impacto que os algoritmos têm sobre a sociedade. A educação sobre esses processos e suas implicações pode ser a chave para uma experiência online mais justa e inclusiva.

O campo da tecnologia deve evoluir para incluir diversidade e inclusão, criando algoritmos e sistemas que respeitem e reflitam a riqueza das experiências humanas. Como a sociedade vai se preparar para enfrentar os desafios que a inteligência artificial traz? Essa é uma pergunta que demanda reflexão e ação, especialmente por aqueles que, como Gonzatti, estão na linha de frente dessa luta.