Por que é tão difícil parar o abuso nas redes sociais?

16

O Twitter se moveu para carimbar o abuso racista direcionado aos jogadores negros da Inglaterra após a final da Euro 2020, mas diante da demanda generalizada por plataformas de mídia social para agir, sua abordagem é suficiente?

O abuso também foi postado no Facebook e vem depois que jogadores e clubes boicotaram totalmente as mídias sociais em abril, em protesto contra uma onda crescente de discriminação voltada para as pessoas no futebol.

Aqui estão as medidas que estão sendo tomadas pelas plataformas de mídia social para enfrentar o problema e as questões que impedem novos progressos.

O que está sendo pedido?

Há dois grandes pedidos das plataformas de mídia social.Anúncio

A primeira é a seguinte: “Mensagens e postagens devem ser filtradas e bloqueadas antes de serem enviadas ou postadas se contiverem material racista ou discriminatório”.

A segunda é que “todos os usuários devem estar sujeitos a um processo de verificação aprimorado que (somente se exigido pela aplicação da lei) permite uma identificação precisa da pessoa por trás da conta”.

Quais são os problemas com a filtragem?

O desafio com a primeira solicitação – filtrar conteúdo antes de ser enviado ou postado – é que ele requer tecnologia para identificar automaticamente se o conteúdo de uma mensagem contém material racista ou discriminatório, e essa tecnologia simplesmente não existe.

A filtragem não pode ser baseada em uma lista de palavras – as pessoas podem inventar novos epítetos ou caracteres substitutos – e os termos racistas existentes podem ser usados em um contexto que não espalha ódio, por exemplo, uma vítima em busca de apoio citando uma mensagem abusiva que foi enviada a eles.

Como filtram outros materiais?

As plataformas de mídia social tiveram sucesso em filtrar e bloquear material terrorista ou imagens de exploração sexual infantil, mas estes são um tipo diferente de problema do ponto de vista tecnológico.

Felizmente há uma quantidade finita de imagens de abuso em circulação. Tragicamente esse número está crescendo, mas como a grande maioria dessa mídia foi enviada anteriormente, ela também foi impressa tornando mais fácil detectar novamente no futuro e automaticamente derrubar.

Imprimir uma imagem e entender o significado de uma mensagem na língua inglesa são desafios tecnológicos muito diferentes.

Mesmo o software de processamento de linguagem natural (NLP) mais avançado pode ter dificuldade em considerar o contexto que um humano irá compreender inatamente, embora muitas empresas afirmam que seu software gerencia isso com sucesso.

O que dizem as empresas?

Em vez disso, tanto o Twitter quanto o Facebook dizem que removeram rapidamente mensagens abusivas depois que foram postadas.

O Twitter disse que “através de uma combinação de automação baseada em aprendizado de máquina e revisão humana, removemos rapidamente mais de 1.000 Tweets e suspendemos permanentemente uma série de contas por violar nossas regras”.

Um porta-voz do Facebook disse: “Removemos rapidamente comentários e contas direcionando abusos aos jogadores de futebol da Inglaterra ontem à noite e continuaremos a tomar medidas contra aqueles que quebram nossas regras.”

Eles acrescentaram: “Além do nosso trabalho para remover esse conteúdo, encorajamos todos os jogadores a ativar o Hidden Words, uma ferramenta que significa que ninguém precisa ver abusos em seus comentários ou DMs.”

Hidden Words é o filtro do Facebook para “palavras ofensivas, frases e emojis” em solicitações de DM, mas as deficiências dessa abordagem são descritas acima.

Mike Dean, Marcus Rashford e Lauren James foram vítimas recentes de abuso nas redes sociais

Quais são os problemas em exigir identificaçãos verificadas?

O apelo para que os usuários de mídia social se identifiquem nas plataformas – se não necessariamente para o público – também foi ecoado pelo órgão comercial BCS, o instituto fretado para TI.

Publicações Relacionadas

O anonimato online é valioso, como o secretário de Cultura Oliver Dowden reconheceu em um debate parlamentar, observando que “é muito importante para algumas pessoas – por exemplo, vítimas que fogem da violência doméstica e crianças que têm dúvidas sobre sua sexualidade que não querem que suas famílias saibam que estão explorando. Há muitas razões para proteger esse anonimato”.

Sugestões de um depósito de identidade – no qual a plataforma conhece a identidade do usuário, mas outros usuários de mídia social não – provocam perguntas sobre o quão confiável são os funcionários dentro das plataformas para “grupos como defensores dos direitos humanos [e] denunciantes” que o governo identificou como merecedores de anonimato online.

E se as empresas estivessem mantendo as identidades reais desses usuários em custódia, então eles poderiam ser expostos à aplicação da lei, com uma série de estados antidemocráticos conhecidos por atacar dissidentes que falam livremente contra seu governo nas mídias sociais.

Também não está claro quais processos as plataformas de mídia social poderiam ter em vigor para verificar essas identidades.

“Abuso online não é anônimo”, de acordo com Heather Burns, gerente de políticas do Open Rights Group.

“Praticamente toda a onda atual de abuso é imediatamente rastreável para os indivíduos que o compartilharam, e as plataformas de mídia social podem entregar detalhes às autoridades.”

“O governo não pode fingir que esse problema não é responsabilidade deles. Os apelos para que as plataformas de mídia social derrubem o material percam o ponto e deixem os criminosos fora do gancho”, acrescentou Burns.

Mas dados de transparência divulgados pelo Twitter revelam que a empresa responde a menos de 50% de todos os pedidos de informações da aplicação da lei no Reino Unido relacionadas a contas em sua plataforma.

As empresas de mídia social estão lidando com o abuso retrospectivamente

O que o governo vai fazer?

Oliver Dowden disse: “Compartilho a raiva pelo terrível abuso racista de nossos jogadores heroicos. As empresas de mídia social precisam aumentar seu jogo para lidar com isso e, se não conseguirem, nossa nova Lei de Segurança Online irá responsabilizá-las com multas de até 10% da receita global.”

O Projeto de Lei de Segurança Online – um rascunho do qual foi publicado em maio deste ano – introduz um dever legal sobre as plataformas de mídia social para resolver os danos, mas não define qual é esse dano.

Em vez disso, o julgamento sobre isso será deixado para o regulador Ofcom, que tem o poder de penalizar uma empresa que não cumpre esses deveres com uma multa de até 10% de sua receita mundial.

Notavelmente, um poder semelhante estava disponível para o Gabinete do Comissário de Informações para lidar com violações de proteção de dados, e a multa máxima ainda não foi emitida para qualquer grande plataforma.

Em casos como o abuso racista, o conteúdo será obviamente ilegal, mas a linguagem sobre o dever em si é vaga.

Conforme redigido, as plataformas serão obrigadas a “minimizar a presença” de abusos racistas e o tempo que ele permanece on-line. Pode ser que a Ofcom, como o regulador pensa que eles já estão fazendo isso.

O secretário de Cultura Oliver Dowden disse que o Projeto de Lei de Segurança Online abordaria o abuso

O que os outros dizem?

Em sua essência, a questão é sobre quem é responsável por abordar esse conteúdo.

Imran Ahmed, chefe do Centro de Combate ao Ódio Digital (CCDH), disse: “O abuso racista repugnante dos jogadores da Inglaterra é um resultado direto do fracasso coletivo da Big Tech em lidar com o discurso de ódio ao longo de vários anos.

“Essa cultura de impunidade existe porque essas empresas se recusam a tomar medidas decisivas e impor quaisquer consequências reais àqueles que vomitam ódio em suas plataformas.



“Mais imediatamente, os racistas que abusam de figuras públicas devem ser imediatamente removidos das plataformas de mídia

social. Nada mudará até que a Big Tech decida mudar drasticamente sua abordagem para esta questão.

“Até agora, os líderes políticos só ofereceram palavras, sem ação.

Mas se as empresas de mídia social se recusarem a acordar para o problema, o governo precisará intervir para proteger as pessoas.”

Burns rebateu: “O abuso racial ilegal enviado aos jogadores de futebol da Inglaterra deve ser processado pelas leis existentes.

“O governo precisa garantir que a polícia e o sistema de justiça apliquem as leis criminais existentes, em vez de abdicar de sua responsabilidade, tornando isso o problema das plataformas de mídia social. Os sites de mídia social não operam tribunais e prisões”, acrescentou.

O que mais pode ser feito?

Graham Smith, um respeitado especialista em direito cibernético da Bird & Bird, disse à Sky News que acreditava que o governo e a polícia poderiam fazer uso dos poderes “ON-LINE ASBO” existentes para atingir o comportamento antissocial mais notório online.

Em entrevista ao Centro de Direito da Informação e Política, ele disse que o potencial de uso de ASBOs (ordens de comportamento antissocial – agora conhecidas como IPNAs, ou liminares para evitar incômodos ou aborrecimentos) “tem sido largamente ignorado”.

Os “aspectos controversos da IPNA, mas pelo menos têm o mérito de serem direcionados contra os agressores e sujeitos a um devido processo legal no tribunal”, acrescentou Smith, observando que “o pensamento poderia ser dado para estender sua disponibilidade a algumas organizações voluntárias preocupadas com vítimas de mau comportamento on-line”.

você pode gostar também