Racismo algorítmico e os impactos sociais
- SARAH DANTAS
- Diretoria de Comunicação da UFMA
Celebrado em 03 de julho, o Dia Nacional do Combate à Discriminação Racial reforça a importância de reconhecer as muitas manifestações de discriminação racial, desde as formas explícitas às mais sutis e estruturalmente invisíveis. A luta contra o preconceito é histórica e envolve a criação de leis, políticas públicas e ações de conscientização social.
No entanto, com o avanço das tecnologias digitais e o uso crescente da inteligência artificial em setores como segurança, saúde, educação e comunicação, surge um novo alerta: o racismo algorítmico. Essa forma de discriminação atua de maneira silenciosa, incorporada em sistemas automatizados que, muitas vezes, reproduzem e ampliam desigualdades raciais já existentes.
A discussão sobre o racismo algorítmico tem se intensificado nos últimos anos, sobretudo, no campo da educação, a fim de alertar a sociedade para um novo cenário. O professor do Departamento de Educação II da Universidade Federal do Maranhão (UFMA) e especialista na área da Inteligência Artificial na Educação, João Batista Bottentuit Junior, explica que o termo foi criado para exemplificar um novo tipo de preconceito racial.
“Racismo algorítmico é quando os sistemas de inteligência artificial ou algoritmos desses sistemas acabam reproduzindo ou ampliando preconceitos raciais existentes. Diferente do racismo estrutural, que está presente em instituições, leis e práticas sociais historicamente construídas, o racismo algorítmico surge de forma mais invisível, pois está embutido nas tecnologias que usamos no dia a dia. Ele é uma manifestação mais técnica, mas que reflete o racismo estrutural da sociedade, porque os dados e as decisões automatizadas são baseados em informações que carregam esses vieses. Isso ocorre porque os textos nas bases estão escritos muitas vezes com termos ou conteúdos racistas, e os algoritmos terminam por reproduzir esse comportamento no novo texto produzido”, esclarece.
O racismo algorítmico acompanha uma sociedade marcada por desigualdades e preconceitos. “Os algoritmos aprendem a partir dos dados que recebem, e esses dados vêm da realidade que já é marcada por desigualdades e preconceitos. Se o conjunto de dados é parcial ou injusto, o algoritmo vai refletir essas mesmas injustiças. Ou seja, se um sistema de seleção de candidatos baseia suas decisões em históricos em que pessoas negras foram sistematicamente prejudicadas, ele pode acabar reforçando essa exclusão, porque está aprendendo de um cenário já desigual”, exemplifica o professor.
É preciso refletir sobre o racismo digital além de ofensas textuais. Nesse universo do racismo algorítmico, as ferramentas de inteligência artificial reproduzem e naturalizam práticas preconceituosas por meio de recursos automatizados ou definidos por determinadas plataformas. De acordo com o professor João Bottentuit, não é a inteligência artificial em si que produz a prática racista, e, sim, quem alimenta esses espaços. Se não forem corrigidos e alimentados de forma adequada, a IA pode reproduzir injustiças e práticas racistas, mesmo que sem intenções explícitas.
De todo modo, essas ações consolidam um preconceito velado e “invisível”. “Esse tipo de racismo pode impactar profundamente o cotidiano das pessoas negras, porque decisões importantes, como conceder um empréstimo, aprovar uma bolsa de estudos, contratar para uma vaga de trabalho ou julgar um processo judicial, estão cada vez mais automatizadas. Quando os algoritmos são enviesados, eles podem negar essas oportunidades ou tratar as pessoas de forma desigual, perpetuando as barreiras que a população negra já enfrenta”, salienta o professor da UFMA.
Há avanços na legislação e na criação de iniciativas. Apesar disso, ainda é preciso avançar no quesito digital. No Brasil ainda existe um debate crescente para a regulamentação das mídias digitais e para o uso de algoritmos e inteligência artificial de forma ética e legal.
Nesse contexto, o espaço acadêmico torna-se fundamental para identificar, discutir os impactos e desenvolver soluções diante do racismo algorítmico. Na UFMA, há uma série de estudos e ações que procuram, de forma cientifica, teórica e prática, propor mudanças e implementar ferramentas que vão de encontro à discriminação no ambiente digital.
O professor João Bottentuit também defende a importância da educação digital, não só no ambiente acadêmico, como também no ambiente social, para reduzir práticas racistas. “Quando todos têm acesso a uma educação crítica e inclusiva sobre tecnologia, fica mais fácil desconstruir preconceitos, fiscalizar o uso das ferramentas digitais e promover a diversidade na criação desses sistemas”, argumenta.
No enfrentamento à discriminação racial, é fundamental reconhecer as nuances presentes nas práticas históricas e atuais. Em uma era cada vez mais marcada pelo uso da inteligência artificial, discutir o racismo algorítmico torna-se urgente para dar visibilidade ao problema e promover ações assertivas de combate.
