Humanista

Racismo algorítmico: quando o preconceito chega pela internet

Em uma sociedade marcada pelo racismo, é preciso compreender como as tecnologias incorporam as lógicas de discriminação

Danillo Lima

O documentário “O Dilema das Redes” (2020), dirigido por Jeff Orlowski, promoveu reflexões alarmantes sobre o uso das redes sociais e as ações estratégicas das empresas que dominam a área. Por um momento, o público veio a refletir sobre o seu comportamento perante às plataformas. Um vasto campo de crítica foi estabelecido, demonstrando a forma com que as grandes multinacionais da área da tecnologia – conhecidas como Big Techs – conduzem seus serviços. O Facebook, em nota oficial, respondeu ao documentário reconhecendo suas falhas em pontos como a desinformação, a polarização eleitoral e o uso compulsivo. No entanto, a empresa diz que o documentário está carregado de “sensacionalismo”.

Entre os assuntos abordados pelo documentário, os algoritmos surgem como um tema de extrema importância. Os seus impactos perante o comportamento dos usuários, como sugerem os especialistas ouvidos na produção do filme, indicam uma espécie de vício que entorpece a geração atual. Entre vários tópicos citados, um ponto que passou despercebido na construção do documentário é um problema antigo, mas que é novidade nas discussões sobre tecnologia: o racismo. O Humanista foi atrás de informações para entender o chamado “racismo algorítmico”.

Os atos discriminatórios com relação à raça são mais evidentes em situações cotidianas, como em insultos ou gestos. O que se vê nos últimos anos, porém, é um crescimento desse preconceito no âmbito digital. Isto cria um novo cenário em que a agressão é velada em linhas de programação. É justamente nesse ponto que as redes sociais podem contribuir para exclusões – nas mais variadas formas.

O termo racismo algorítmico surge como uma forma de abarcar o mundo dos preconceitos gerados através de robôs. Para compreender o que significa esse conceito, a jornalista e pesquisadora em Cultura e Territorialidades da UFF (Universidade Federal Fluminense), Silvana Bahia, explica inicialmente o que é um algoritmo. “É um conjunto de sistemas muito complexos que dão uma ordem para a máquina. O algoritmo consulta bases de dados para construir esses comandos.”

Para além das ordens para a máquina, é necessário pensar na forma com que esses comandos são elaborados. Apesar de muitas vezes serem aplicadas de forma automática, as linhas de programação são constituídas por mãos humanas. Segundo Bahia, as pessoas que criam as máquinas importam a sua visão de mundo para dentro da tecnologia. “Há uma ideia de destituir a tecnologia como se ela não tivesse nada a ver com questões sociais como o racismo. Tem muito a coisa de olhar para as tecnologias sem discutir se elas são neutras. A tecnologia é fruto de ação humana.”


A discriminação nas plataformas

Os exemplos de racismo nas redes estão se tornando cada vez mais visíveis. O pesquisador em Ciências Humanas e Sociais da UFABC (Universidade Federal do ABC), Tarcízio Silva, criou a Linha do Tempo do Racismo Algorítmico – uma compilação de casos no Brasil e no mundo de formas de opressão racial no contexto digital. A partir dessa série, constantemente atualizada por Silva, é possível ter um panorama histórico das diferentes plataformas e tecnologias que atuam como agentes racistas.

Um dos casos citados é uma ação do Instagram ocorrida em novembro de 2019, em que a plataforma identificou que um desenho com pessoas negras, uma delas em referência ao automobilista britânico Lewis Hamilton, continha alusão a armas.

A ilustração “Hamilton, preto Zika ultrapassando os branco”, criada por Gabriel Jardim, foi negada pelo Instagram de receber impulsionamento, pois, segundo a plataforma, a imagem promove a venda de armas. Arte: Gabriel Jardim/Reprodução.

No livro “Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos”, lançado em 2020 pela Editora LiteraRUA, há um capítulo em que Silva expõe a perspectiva da microagressão digital. Essa forma de opressão, segundo o autor, pode operar diversos modos de preconceito. No caso supracitado, a discriminação empregada foi a de suposição de criminalidade. Segundo o texto de Silva, “no caso das populações brasileiras, esta é uma das microagressões mais pervasivas. Trata da suposição que uma pessoa racializada tem mais chance de ser perigosa, criminosa ou desviante baseado em sua raça”.

O caso de Gabriel Jardim é um exemplo das críticas que o Instagram vem sofrendo quanto ao seu algoritmo. Segundo uma nota oficial da empresa, lançada em junho de 2020, a plataforma está trabalhando para aprimorar suas ferramentas. “Embora façamos muito trabalho para prevenir viés inconsciente em nossos produtos, precisamos examinar mais detalhadamente os sistemas subjacentes que construímos e onde precisamos fazer mais para manter qualquer viés de fora dessas decisões.”


Hackeando o sistema

As máquinas carregam a visão de mundo de quem as cria, segundo Bahia. A pesquisadora ainda vai além e diz que “a tecnologia é criada por um padrão de pessoas, e o mundo é muito mais plural que o Vale do Silício”. Então, é necessário perceber quem são aqueles que estão tomando espaço e produzindo tecnologia.

No contexto brasileiro, segundo dados de 2019 da organização social Olabi, os profissionais da área de tecnologia são em geral homens (68,3%), brancos (58,3%) e heterossexuais (78.9%). Questionada sobre a intensificação do racismo algorítmico, Bahia enxerga que, “quando a tecnologia não tem diversidade na produção, então é mais fácil que essas formas de opressão se perpetuem e apareçam”.

Se por um lado a diversidade se mostra tímida nas empresas de tecnologia, por outro há iniciativas na área que buscam fomentar a inclusão no mercado. Organizações como PretaLab, AfroPython e perifaCode atuam como projetos de empoderamento de mulheres negras, comunidade negra em geral e moradores de regiões periféricas, respectivamente, cada qual com sua necessidade específica de capacitação do público.

A coordenadora da AfroPython, Desirée Medeiros, explica a importância da inserção igualitária de pessoas negras no mercado de trabalho. “Nossa forma de fazer isso é através da TI (Tecnologia de Informação), por termos pessoas que trabalham na área.” Especificamente nesse campo da tecnologia, Medeiros diz que linhas de programação tendem a ser racistas, pois “enquanto não houver times diversos, isso se refletirá não só na sociedade, como nos algoritmos.” 

O fortalecimento da comunidade negra que atua na área da tecnologia coincide com um período em que o tema está em voga. Em outubro de 2020, a cofundadora do Nubank, Cristina Junqueira, disse em entrevista ao “Roda Viva” que “não dá para nivelar por baixo”, em referência à dificuldade de recrutar lideranças negras. Logo após, a empresa lançou uma nota pedindo desculpas. “Vimos o quanto precisamos avançar, dentro e fora de casa, com uma agenda de reparação histórica e de combate ao racismo estrutural.”

A resposta quase imediata do Nubank é um sintoma de um período em que certos atos não são mais relevados como antigamente. Afinal, o tema do racismo, enquanto discussão pública, mostra-se como uma pauta de crescente pertinência.

A evolução das pesquisas pelo termo “racismo” no Google nos últimos 5 anos por usuários brasileiros. Numa escala de zero a cem, o número máximo indica o pico de buscas pelo tema. Fonte: Google Trends.

A partir da influência dos protestos estadunidenses por causa do assassinato de George Floyd – afro-americano morto por um policial em maio de 2020 -, os últimos meses vêm alcançando uma marca histórica de interesse pelo tema do racismo no Brasil, com o auge no mês de maio.

As manifestações populares chegaram ao Brasil, e a população foi às ruas pedir por uma sociedade antirracista e pela valorização de vidas negras. Conforme a busca pelo tema se amplia, os próprios algoritmos podem captar esse movimento e dar preferência a conteúdos sobre o assunto.

Uma maior representatividade negra dentro das empresas, aliada a um crescimento do interesse sobre o tema na internet, pode ser a chave para reverter o racismo algorítmico. Medeiros avalia o período: “Nesse ano, muitas empresas acordaram para a questão da diversidade, inclusão e equidade. Num futuro, acredito ser possível [mais diversidade na área da tecnologia], mas, para isso, tem que haver uma reestruturação na mentalidade dos empreendedores e de seus funcionários. Não adianta por pessoas diversas em espaços tóxicos”.


FOTO DE CAPA: Banco de imagens Pixabay

Deixe um comentário

Page Reader Press Enter to Read Page Content Out Loud Press Enter to Pause or Restart Reading Page Content Out Loud Press Enter to Stop Reading Page Content Out Loud Screen Reader Support