Um grupo de defesa dos muçulmanos processou o Facebook por não conseguir remover o discurso de ódio

37
Os Defensores Muçulmanos processaram Mark Zuckerberg e Sheryl Sandberg por supostamente enganar o Congresso sobre a forma adequada de remover o discurso de ódio.

Um grupo de defesa dos muçulmanos processou esta semana o Facebook por não conseguir restringir o discurso de ódio, parte do problema mais amplo da tecnologia para impedir o discurso islamofóbico.

O grupo de direitos civis Muslim Advocates entrou com uma ação contra o Facebook e quatro executivos da empresa no Tribunal Superior do Distrito de Columbia por mentir ao Congresso sobre moderação de discurso de ódio.

Os executivos do Facebook comunicaram ao Congresso seu compromisso de remover conteúdo que viole as políticas, incluindo a declaração do COO Sheryl Sandberg ao Comitê de Inteligência do Senado sobre o Facebook e influência estrangeira de que “quando o conteúdo violar nossas políticas, nós o removeremos “.

Mesmo assim, Muslim Advocates disse que a organização apresentou ao Facebook uma lista de 26 grupos que espalharam o ódio contra os muçulmanos em 2017, mas 19 deles ainda estão ativos

O processo afirma que o Facebook permitiu que um homem que ameaçava matar a congressista Ilhan Omar postasse “conteúdo violento e racista durante anos”, e que a empresa não conseguiu remover um grupo chamado “Morte ao assassinato de membros do culto islâmico islâmico” mesmo depois da professora Megan Squire da Universidade Elon chamou a atenção do Facebook para isso.

“Não permitimos discurso de ódio no Facebook e trabalhamos regularmente com especialistas, organizações sem fins lucrativos e partes interessadas para ajudar a garantir que o Facebook seja um lugar seguro para todos, reconhecendo que a retórica anti-muçulmana pode assumir diferentes formas”, disse um porta-voz do Facebook “Investimos em tecnologias de IA para eliminar o discurso de ódio e detectamos de forma proativa 97% do que removemos.”

Em 2018, o CEO do Facebook, Mark Zuckerberg, testemunhou ao Congresso que a plataforma pode falhar em policiar o discurso de ódio devido à sua inteligência artificial. O discurso de ódio tem nuances que podem ser difíceis de identificar e remover, especialmente em diferentes idiomas, disse Zuckerberg. 

Zuckerberg mais uma vez abordou questões sobre moderação e automação em uma audiência no Congresso em março de 2021 sobre desinformação. Seu testemunho sobre como a moderação de conteúdo precisa levar em consideração “nuances”, como quando os defensores fazem contra-argumentos contra hashtags odiosas, parecia em desacordo com a confiança admitida do Facebook na IA para fazer o trabalho de moderar o discurso de ódio.

Peter Romer-Friedman, diretor da Gupta Wessler PLLC que ajudou no processo e ex-advogado do senador Edward M. Kennedy, disse que o Congresso não pode supervisionar adequadamente as empresas que deturpam os fatos aos legisladores. 

Publicações Relacionadas

Romer-Friedman disse que a falha do Facebook em remover um grupo que afirmava que “o Islã é uma doença” – o que viola diretamente as políticas de discurso de ódio da empresa que proíbe “discurso desumanizador incluindo … referência ou comparação com sujeira, bactéria, doença ou fezes” – é um exemplo em que a empresa não cumpriu sua promessa ao Congresso de reprimir o discurso de ódio.

“Tornou-se muito comum para executivos corporativos virem a Washington e não dizerem a verdade, e isso prejudica a capacidade do Congresso de compreender o problema e regular de forma justa os negócios que são inerentemente inseguros”, disse Romer-Friedman.

Como o Facebook e outras empresas de tecnologia estão falhando em lidar com o discurso de ódio contra os muçulmanos

O processo destaca o problema contínuo das empresas de tecnologia em responder a conteúdo anti-muçulmano online.

A deputada Omar, o primeiro congressista a usar um hijab ou véu muçulmano, convocou o Twitter para responder às ameaças de morte que recebe. “Yo @Twitter, isso é inaceitável!” ela disse em 2019.

Uma análise do Social Science Research Council analisou mais de 100.000 tweets dirigidos a candidatos muçulmanos que concorreram a cargos públicos em 2018 e descobriu que o Twitter era responsável “pela difusão de imagens e palavras de um pequeno número de vozes influentes para um público nacional e internacional, “por The Washington Post .

A disseminação de conteúdo anti-muçulmano vai muito além do Facebook e do Twitter:

  • TikTok pediu desculpas a uma usuária de 17 anos por suspender sua conta que condena a repressão em massa da China contra os muçulmanos uigures. 
  • A VICE relatou que aplicativos de oração muçulmanos, como o Muslim Pro , vinham vendendo dados de localização de usuários para os militares dos EUA.
  • O Instagram baniu Laura Loomer, uma “orgulhosa islamófoba “, anos depois que Uber e Lyft a baniram por uma série de tweets anti-muçulmanos após um ataque terrorista em Nova York.

Sanaa Ansari, uma advogada da Muslim Advocates, disse que há “evidências claras” de incitação à violência contra os muçulmanos, potencialmente devido ao discurso de ódio irrestrito nas redes sociais. Em 2019, a transmissão ao vivo de 16 minutos de um homem armado atacando duas mesquitas e matando 51 pessoas na Nova Zelândia foi enviada ao Facebook e espalhada rapidamente no Youtube, Instagram e Twitter.

“Houve vários apelos às armas aos muçulmanos, houve eventos organizados por supremacistas anti-muçulmanos e milícias que organizaram marchas e protestos em mesquitas neste país”, disse Ansari ao Insider em uma entrevista. “E isso é apenas a ponta do iceberg.”

você pode gostar também