Amnistia Internacional e Element AI divulgam maior estudo de sempre sobre o abuso online contra mulheres

Numa amostra analisada pela Amnistia Internacional, um em cada dez tweets mencionando mulheres negras políticas e jornalistas era abusivo ou problemático, anunciou hoje a organização, ao divulgar um estudo pioneiro sobre o abuso contra mulheres no Twitter conduzido com a  Element AI, uma empresa global de produtos de software de inteligência artificial.

Mais de 6,500 voluntários de 150 países participaram na Troll Patrol (Patrulha de Trolls), um projeto único de colaboração pública, desenhado para processar dados em larga escala sobre o abuso na Internet. Os voluntários classificaram 228,000 tweets enviados a 778 mulheres políticas e jornalistas no Reino Unido (RU) e nos Estados Unidos da América (EUA) em 2017.

A Amnistia Internacional e a Element AI utilizaram então tratamento avançado de dados e técnicas de aprendizagem automática para extrapolar os dados sobre a escala de abuso que as mulheres enfrentam no Twitter. A Element AI calculou que ao longo do ano – ou, em média, a cada 30 segundos – 1.1 milhões de tweets abusivos ou problemáticos foram enviados a mulheres no estudo.

“Com a ajuda de peritos e de milhares de voluntários, construímos o maior conjunto de dados colaborativo do mundo sobre o abuso online contra mulheres. A Troll Patrol significa que temos os dados para suportar o que as mulheres nos diziam há muito – que o Twitter é um lugar onde se permite que o racismo, a misoginia e a homofobia floresçam basicamente sem controlo,” declarou Milena Marin, Conselheira Sénior para a Investigação Tática na Amnistia Internacional.

O Twitter é um lugar onde se permite que o racismo, a misoginia e a homofobia floresçam basicamente sem controlo.

Milena Marin, Conselheira Sénior para a Investigação Tática na Amnistia Internacional

“Descobrimos que, embora o abuso vise mulheres através do espetro político, as mulheres não-brancas tinham muito maior probabilidade de serem atingidas, e que as mulheres negras são desproporcionadamente visadas. O falhanço do Twitter em combater este problema significa que está a contribuir para o silenciamento de vozes já marginalizadas.”

A Element AI utilizou os dados recolhidos na Troll Patrol para desenvolver um modelo de aprendizagem automática de uma aplicação que tenta fazer a deteção automática de  tweets abusivos. A Element AI está a disponibilizar o seu modelo para teste durante três semanas, para demonstrar o potencial e as limitações atuais da tecnologia de Inteligência Artificial (IA) neste campo.

“Este estudo é parte de uma parceria a longo prazo entre a Amnistia Internacional e a Element AI. Assumindo uma abordagem sóbria à IA, fazemos compromissos de longo prazo, dedicando ferramentas e tempo dos nossos peritos para permitir que atores pelo bem social façam aquilo que fazem melhor,” disse Julien Cornebise, Diretor de Pesquisa ‘IA para o Bem’ e responsável pelo escritório londrino da Element AI.
As mulheres políticas incluidas na amostra vieram das várias zonas dos espetros políticos dos EUA e do RU. As jornalistas incluídas pertenciam a um leque diverso de publicações dos EUA e do RU, incluindo os órgãos Daily Mail, New York Times, Guardian, Sun, GalDem, Pink News e Breitbart.

A Amnistia Internacional solicitou repetidamente ao Twitter que fossem publicados dados relativos à escala e natureza do abuso na sua plataforma mas, até ao momento, a empresa falhou em corresponder. O que oculta a extensão do problema e torna difícil desenhar soluções efetivas.

Coletivamente, os voluntários da Troll Patrol dedicaram a quantidade incrível de 2,500 horas à análise de tweets – o equivalente a ter alguém a trabalhar a tempo inteiro durante 1.5 anos.

“Através da pesquisa colaborativa, fomos capazes de reunir provas vitais numa fração do tempo que levaria a um investigador da Amnistia, sem perdermos o juízo humano que é tão essencial quando analisamos o contexto em torno dos tweets,” disse Milena Marin.
“Com a Troll Patrol, não se trata de policiar o Twitter ou de o forçar a remover conteúdo. Estamos a solicitar-lhe que seja mais transparente, e esperamos que as descobertas da Troll Patrol o obriguem a efetuar essa mudança. Crucialmente, o Twitter deve começar a ser transparente sobre exatamente como é que está a utilizar a aprendizagem automática para detetar abuso, e publicar informação técnica sobre os algoritmos nos quais se baseia”.

Contexto

O conteúdo abusivo viola a próprias regras do Twitter e inclui tweets que promovem violência – ou ameaças – sobre pessoas com base na sua raça, etnia, origem nacional, orientação sexual, género, identidade de género, filiação religiosa, idade, deficiência ou doença grave. O conteúdo problemático é definido como conteúdo que seja danoso ou hostil, especialmente se repetido contra um indivíduo em ocasiões múltiplas ou cumulativas, mas não tão intenso como um tweet abusivo.

A Amnistia Internacional partilhou as suas descobertas com o Twitter. Em resposta, o Twitter solicitou clarificação sobre a definição de “problemático” “de acordo com a necessidade de proteger a livre expressão e garantir que as políticas são formuladas de forma clara e estrita.”