Instagram admite erro de moderação de comentários racistas

As redes sociais têm reunido esforços para mitigar o discurso de ódio, bem como outras problemáticas nas suas plataformas. Contudo, aquando da final do Euro 2020, o Instagram de três futebolistas ingleses foi inundado de comentários racistas.

Posteriormente, o Instagram admitiu um erro na sua tecnologia de moderação.

As contas do Instagram dos futebolistas ingleses Bukayo Saka, Marcus Rashford e Jadon Sancho foram inundadas de comentários racistas e abusivos, após a final do Euro 2020. Isto, porque os três jogadores falharam os respetivos remates nas grandes penalidades contra a Itália.

Conforme revelou, a BBC News reportou um comentário na conta do Instagram de Saka com conteúdo racista. Numa questão de minutos, recebeu uma notificação, informando que a tecnologia da plataforma “descobriu que este comentário provavelmente não vai contra as nossas diretrizes”. Após solicitar uma nova revisão, a BBC não obteve resposta.

Segundo o chefe do Instagram, Adam Mosseri, o conteúdo foi erradamente identificado como estando dentro das diretrizes da plataforma. Embora a questão esteja já resolvida, Mosseri disse à BBC News:

Temos tecnologia para tentar e dar prioridade aos relatórios e estávamos erroneamente a marcar alguns deles como comentários benignos, o que não são de todo.

Instagram: Racismo frequente nas redes sociais

Segundo o Record, Bukayo Saka lamentou, posteriormente, os insultos racistas de que foi alvo, depois da final do Euro 2020.

Às plataformas de comunicação social – Instagram, Twitter e Facebook – não quero que nenhuma criança ou adulto tenha de receber as mensagens odiosas e ofensivas que eu, o Marcus e o Jadon recebemos esta semana.

Eu sabia imediatamente o tipo de ódio que estava prestes a receber e essa é uma triste realidade de que as vossas plataformas poderosas não estão a fazer o suficiente para impedir estas mensagens.

Escreveu Saka, no Twitter.

pic.twitter.com/KAibQRYH2T

— Bukayo Saka (@BukayoSaka87) July 15, 2021

Apesar de este ser um caso recente e com grande impacto, o racismo nas redes sociais, bem como outro tipo de discurso de ódio, são uma problemática demasiado recorrente. Para atuar no sentido de o mitigar, o Instagram consultou grupos de defesa, de modo a formar uma lista de termos, frases e emojis que possam ser ofensivos. Além disso, os utilizadores podem filtrar palavras específicas nas definições.

Ainda assim, o chefe executivo do Center for Countering Hate (CCDH), Imran Ahmed, diz ser inaceitável a forma como o discurso abusivo ainda contorna a moderação do Instagram.

Das 105 contas que identificámos como tendo abusado racialmente dos futebolistas ingleses, 88 ainda estão em alta.

Além disso, referiu que a solução estava muito longe da prometida pela plataforma.