Algoritmo do Twitter é racista? Há dezenas de testes a correr pela rede para o comprovar

Neste fim de semana o Twitter parece estar a ser alvo de um teste de racismo por parte dos seus utilizadores. Aparentemente, o algoritmo, baseado em machine learning, dá preferência a rostos de cor clara em detrimento de rostos negros.

Este teste vai além de rostos de pessoas. Há testes que tentam comprovar que a rede social é racista com desenhos animados e até com animais.

São dezenas de publicações no Twitter que por estes últimos dias tentam comprovar que o algoritmo que recorta as imagens partilhadas para criar miniaturas é “racista”.

Para o comprovar, os utilizadores estão a fazer partilhas onde colocam o rosto de uma pessoa de pele clara em cima e uma pessoa de pele negra em baixo numa imagem. Noutra imagem, na mesma publicação, invertem a ordem dos rostos.

Será o Twitter racista? Utilizadores tentam comprovar

Ao partilhar, não existem dúvidas. Nas duas imagens são os rostos de pele clara que são escolhidas.

Um dos testes mais populares é o de Barack Obama vs Mitch McConnell. Nas inúmeras publicações, a rede social escolhe sempre o rosto de McConnell. No entanto, se as imagens forem colocadas com filtros do género negativo de fotos, onde não dá para perceber a cor de pele, o algoritmo já não apresenta o mesmo comportamento.

Let's try inverting the colors… (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2

— Tony "Abolish ICE" Arcieri 🦀🌹 (@bascule) September 19, 2020

Estes não foram, no entanto, os únicos rostos a entrar em teste, tentando confirmar a teoria. Mas, o mais caricato é que tal acontecimento ocorre mesmo quando são partilhadas fotos de animais, claros e escuros, e até de desenhos animados.

I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid

— 🅜🅐🅡🅚 🍿 (@MarkEMarkAU) September 20, 2020

A empresa já está a tentar perceber o algoritmo

É certo que, em muitos casos, esta preferência por “brancos” parece ser evidente. No entanto, há outras partilhas que deitam por terra a teoria. Dantley Davis, Chief Digital Officer do Twitter, surgiu em várias publicações a responder aos utilizadores, revelando que estaria também a fazer vários testes e revelou que os resultados demonstravam que realmente existe algo que merece uma análise cuidada por parte do Twitter.

Here's another example of what I've experimented with. It's not a scientific test as it's an isolated example, but it points to some variables that we need to look into. Both men now have the same suits and I covered their hands. We're still investigating the NN. pic.twitter.com/06BhFgDkyA

— Dantley Davis (@dantley) September 20, 2020

Liz Kelley, da equipa de comunicação da empresa, veio também à sua conta agradecer a todos os utilizadores que estavam a fazer as partilhas. Segundo Kelley, não foram, para já, encontradas evidências de preconceito racial ou de género nos testes feitos pela empresa, contudo, não irão parar por aqui para analisar mais a fundo esta questão.

thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH

— liz kelley (@lizkelley) September 20, 2020

Também Parag Agrawal, CTO do Twitter veio agradecer o contributo de todos para que, assim, a empresa possa melhorar o seu algoritmo que, segundo ele, “precisa de melhoria contínua”.

Entretanto, os rostos de pessoas negras continuam a ficar de fora da maioria das escolhas do Twitter para as suas miniaturas.