‘Recebo xingamentos e ameaças online’ – por que é tão difícil combater isso?  | Tecnologia

Eu sou a primeira repórter da BBC especializada em desinformação, e recebo mensagens abusivas nas redes sociais diariamente. A maioria é ofensiva demais para ser compartilhada sem edições. Qual o gatilho para essas ofensas? Minha cobertura sobre o impacto de conspirações online e fake news. Eu espero ser desafiada e criticada, mas ódio misógino direcionado a mim se tornou uma ocorrência diária.

As mensagens são carregadas de expressões baseadas em gênero e referências a estupro, decapitação e atos sexuais. Algumas são uma mistura de teorias da conspiração — de que eu seria uma pessoa sob “controle sionista” ou de que eu própria seria responsável pelo estupro de bebês, por exemplo. Xingamentos são frequentes.

E não sou só eu. De políticos pelo mundo a estrelas do reality show britânico Love Island e médicos, tenho ouvido relatos de mulheres alvos de mensagens de ódio semelhantes. Uma nova pesquisa, compartilhada com a BBC, sugere que mulheres são mais propensas a serem alvos desse tipo de abuso que homens. Isso está piorando e frequentemente os ataques são combinados com racismo e homofobia.

Eu queria entender por que isso está acontecendo, a ameaça que isso representa — e por que redes sociais, a polícia e governos não tomam providências. Então, eu iniciei uma investigação para a BBC Panorama, um dos principais programas jornalísticos da BBC.

Nós montamos uma conta fake de “trollagem” nas cinco redes sociais mais populares do mundo para verificar se elas promoveriam contas e conteúdos de ódio misógino a esse usuário. Usando uma fotografia gerada por Inteligência Artificial, programamos nosso perfil falso de “trollagem” para ser similar às pessoas que me enviavam xingamentos e ameaças. Nosso perfil engajava com conteúdo oferecido pelas plataformas sociais, mas não enviava nenhuma mensagem de ódio.

Como parte do projeto, a consultoria Demos analisou os ataques recebidos por participantes de reality shows, analisando mais 90 mil postagens e comentários sobre eles. A verdade é que programas como Love Island (reality show britânico) funcionam quase como um microcosmo da sociedade, permitindo que pesquisadores comparem agressões direcionadas a homens e mulheres com diferentes trajetórias. A popularidade dessas pessoas também gera muito debate online.

• Nossa conta falsa recebeu mais e mais recomendações de conteúdo contra mulheres no Facebook e no Instagram, alguns envolvendo violência sexual;
• Mulheres participantes de reality shows na TV são desproporcionalmente atacadas nas redes sociais, com ameaças e xingamentos enraizados na misoginia e combinados com racismo;
• Propostas preliminares das Nações Unidas para fazer com que as empresas de redes sociais protejam melhor as mulheres foram obtidas com exclusividade pela BBC.

Impunidade para perfis que ameaçam mulheres

Empresas de redes sociais dizem que levam a sério ataques a mulheres online — e que possuem regras para proteger usuários de abusos. Entre as medidas estão suspender, restringir ou até fechar contas.

Mas a minha experiência indica que muito frequentemente as empresas não fazem isso. Eu reportei ao Facebook algumas das piores mensagens que eu recebi — incluindo ameaças de ir até a minha casa para me estuprar e cometer atos sexuais horrendos. Mas, meses depois, a conta continuava no Facebook, juntamente com dezenas de outras no Instagram e no Twitter que me enviavam ameaças e xingamentos.

Aparentemente, minha experiência faz parte de um padrão. Nova pesquisa feita pelo Centre for Countering Digital Hate mostra que 97% de 330 contas que enviaram ataques misóginos no Twitter e no Instagram continuaram no ar após serem denunciadas.

Twitter e Instagram dizem que agem quando suas regras são violadas, e que fechar contas não é a única opção.

Curiosa para saber quem estava administrando as contas que enviavam ameaças a mim e a outras mulheres, passei a examinar os perfis que me atacavam. A maioria eram homens e residiam no Reino Unido. Eles me enviavam tudo que é tipo de mensagem, desde me chamar de “vaca idiota” e dizer que eu precisava “transar”, a ameaças de agressão e violência sexual. Eram vários os ataques ligados a gênero.

Acontece que eles são pessoas reais — não bots. Um é torcedor do Tottenham, como eu. Outro gosta de comida vegana. Um, cuja conta era anônima, até revelou sua localização ao postar um tuíte no serviço de entrega de supermercado Ocado, reclamando que não entregavam em seu código postal em Great Yarmouth, no Reino Unido.

Eu tentei contato com eles. Um deles se chama Steve, está na faixa dos 60 anos e é motorista de van nas Midlands, região central da Inglaterra. Ele aceitou falar comigo por telefone. As mensagens que havia me enviado eram menos ofensivas que a maioria dos ataques que recebi — eram em grande parte xingamentos baseados em gênero.

Assim como muitos dos usuários de redes sociais que me atacam, ele acredita profundamente em teorias da conspiração. E, assim como na maior parte dos casos, as mensagens que me enviou me atacavam por eu ser mulher. Primeiro, ele disse que não achava que as mensagens fossem tão ruins assim. Mas eu expliquei que elas eram apenas algumas das várias com ataques e xingamentos que eu recebo na minha caixa de entrada.

“Eu provavelmente cometi um erro. Sou um cara bastante justo”, concluiu ele, depois de um tempo. Steve destacou que é alvo de ataques online por “pessoas que acreditam que os ataques terroristas de 11 de setembro aconteceram e que existe aquecimento global”.

Essas pessoas estão respondendo a teorias da conspiração que ele compartilha nas redes sociais. Eu tinha esperanças de que isso o ajudasse a ver que ódio não é a melhor resposta. E acho que, no final da nossa conversa, ele estava mais perto de aderir a essa ideia.

Nossa conversa me fez refletir sobre o que os perfis falsos que montamos estariam recebendo nos seus feeds nas redes sociais. Queria ver se o algoritmo dessas plataformas estava empurrando conteúdo e contas misóginas que atacam mulheres online.

Então, eu criei uma persona online falsa chamada Barry e o inscrevi nas cinco redes sociais mais populares no Reino Unido. Todas as maiores empresas de redes sociais dizem que não promovem mensagens de ódio nas suas plataformas e que adotam medidas para impedir sua circulação.

Cada uma delas tem algoritmos que nos oferecem conteúdo baseado nas coisas que postamos, assistimos ou curtimos no passado. Mas é difícil saber o que empurram para cada usuário.

“Uma das únicas maneiras de fazer isso é criar manualmente um perfil e observar para que tipo de ‘buraco’ ele vai ser levado pela própria plataforma, depois que o perfil começar a seguir certos grupos ou páginas”, explica a especialista em redes sociais Chloe Colliver, que me aconselhou nessa pesquisa.

Ela trabalha para o Institute for Strategic Dialogue (Instituto para Diálogo Estratégico), pesquisando extremismo e desinformação em redes sociais. Colliver me deu orientações sobre como criar perfis de maneira ética e realista, fazendo apenas o necessário para testar os algoritmos.

As contas de Barry nas redes sociais se basearam em diversos perfis que me enviaram ameaças e xingamentos. Assim como eles, Barry estava sobretudo interessado em conteúdo antivacina e teorias da conspiração, e também seguia um número pequeno de contas e conteúdos contra mulheres.

Ele também postou algumas mensagens agressivas no seu próprio perfil — para que os algoritmos pudessem detectar desde o princípio que ele possuía uma conta que usa linguagem abusiva sobre mulheres. Mas diferentemente das pessoas que me atacaram pelas redes sociais, Barry não enviou mensagens diretamente para nenhuma mulher.

Algoritmo invadiu perfil com contas contra mulheres

Ao longo de duas semanas, eu me conectei a cada dois dias nas contas de Barry — segui recomendações do algoritmo, postei nos perfis de Barry, curti postagens e assisti a vídeos. Depois de apenas uma semana, as principais páginas recomendadas para eu seguir no Facebook e Instagram eram quase todas misóginas.

Ao final do experimento, Barry passou a receber mais e mais conteúdo contra mulheres nessas redes sociais — um aumento dramático em relação a quando a conta foi criada. Alguns dos conteúdos envolviam violência sexual, compartilhamento de memes perturbadores sobre atos sexuais e conteúdo que endossa estupro, assédio e violência de gênero.

Eles também faziam referência a ideologias extremistas. Isso incluiu o movimento “incel” — uma subcultura da internet que encoraja os homens a culpar as mulheres pelos problemas em suas vidas. Esse movimento tem sido relacionado a vários atos de violência, incluindo tiroteios recentes em Plymouth, no Reino Unido.

“Se fosse uma pessoa real, [Barry] teria sido atraído para uma comunidade odiosa, cheia de conteúdo misógino muito, muito rapidamente — em duas semanas”, diz Colliver.

Longe de impedir Barry de se envolver com conteúdo que promove ataques a mulheres, o Facebook e o Instagram parecem ter promovido isso para ele. Em contraste, não havia conteúdo contra mulher no TikTok e muito pouco no Twitter. O YouTube sugeriu alguns vídeos hostis às mulheres.

O que as redes sociais disseram

O Facebook, que também é dono do Instagram, diz que tenta não recomendar conteúdo que quebra suas regras e está aprimorando sua tecnologia “para encontrar e remover abusos mais rapidamente”.

O YouTube diz que tem “políticas rígidas” sobre o ódio e remove “rapidamente” o conteúdo que infringe suas regras.

“Eles estão aumentando seus resultados ao manter o interesse das pessoas em conteúdos horríveis, violentos e muitas vezes misóginos”, diz Colliver.

Quase três bilhões de pessoas em todo o mundo usam o Facebook — e no ano passado a rede social ganhou em média US$ 32 em receita de publicidade por usuário. Quanto mais tempo as pessoas permanecem na plataforma, mais anúncios ela vende e mais dinheiro a gigante da tecnologia ganha.

O Facebook diz que “proteger” sua comunidade é “mais importante do que maximizar os lucros”.

E depois de escrevermos para o Facebook, ele anunciou novas medidas para combater o ódio de gênero dirigido a jornalistas, políticos e celebridades em seus sites.

Violência fora da internet

Tenho participado de uma grande pesquisa para a agência cultural da ONU Unesco — que analisa o impacto do ódio online. A pesquisadora principal Julie Posetti e sua equipe perguntaram a mais de 700 mulheres, principalmente jornalistas e ativistas políticos proeminentes nas redes sociais, sobre suas experiências de ódio online.

Eles então estudaram alguns dos relatos, incluindo o meu e o da ganhadora do Prêmio Nobel da Paz, Maria Ressa. Ela é uma jornalista investigativa das Filipinas que sofre muitos abusos online e diz que usa um colete à prova de balas porque teme ser atacada.

“A violência online é realmente a nova fronteira de conflito que as mulheres enfrentam internacionalmente”, Posetti me disse.

Vinte por cento das mulheres que responderam à pesquisa da ONU, em colaboração com o Centro Internacional para Jornalistas (ICFJ), disseram que já haviam sofrido ataques na vida real, incluindo perseguição e agressão física.

Estou especialmente preocupada com uma parcela das mensagens que recebo online, incluindo as de um homem que parece ter uma condenação anterior por perseguir mulheres. Mas fiquei frustrada com a resposta da polícia.

Após uma onda de ataques online no final de abril deste ano, relatei as ameaças mais graves à polícia, inclusive sobre violência sexual. É uma ofensa criminal enviar mensagens online grosseiramente ofensivas ou obscenas com o objetivo de causar angústia.

Uma policial entrou em contato comigo inicialmente e eu compartilhei minhas evidências do abuso — mas só tive notícias dela semanas depois, quando me disse que estava sendo transferida de equipe. Meu caso estava sendo repassado a outro time e não havia qualquer progresso. Não fui contatada por um novo policial até julho — quando ficou claro que as provas que eu compartilhei originalmente com a polícia haviam sido perdidas, algo que foi admitido mais tarde.

Tentei relatar outro lote de ameaças de estupro, ameaças de morte e mensagens abusivas no final de julho para o novo policial. Quando nos encontramos pessoalmente em meados de agosto, o policial admitiu que não era a pessoa certa para lidar com o caso, e que minha reclamação deveria ter sido encaminhada para uma equipe especializada. Houve mais atrasos — e embora tenham finalmente reconhecido a gravidade das mensagens, houve pouco apoio à vítima.

No final de agosto, eu estava em contato com um terceiro policial, que me pediu para revisar o portfolio de evidências que eu já tinha enviado, para especificar quais mensagens foram postadas no Twitter, no Instagram e no Facebook, já que ele não sabia bem usar essas plataformas.

O policial de ligação mais recente me pediu mais informações sobre as redes sociais, mas até agora não houve progresso.

De acordo com dados de várias forças policiais, que o Panorama obteve por meio de solicitações de Liberdade de Informação, nos últimos cinco anos o número de pessoas que denunciaram mensagens de ódio online mais do que dobrou. Mas, no mesmo período, houve um aumento de apenas 32% no número de prisões. As vítimas são principalmente mulheres.

Isso está acontecendo no contexto de uma pressão crescente sobre a Polícia Metropolitana de Londres, para que aja mais para combater a violência contra as mulheres nas ruas, após os assassinatos de Sarah Everard e Sabina Nessa, dois casos que ganharam notoriedade no Reino Unido.

Eu levantei a questão de que as pessoas que me enviam mensagens de ódio pudessem aparecer no meu trabalho — mas acabaram por me dizer para ligar para o 999 (número dos serviços de emergência no Reino Unido) se me sentisse em perigo.

A Polícia Metropolitana diz que leva o ódio online muito a sério e que meu caso está sob investigação ativa.

O Conselho Nacional de Chefes de Polícia diz que a polícia leva a sério todas as denúncias de comunicações maliciosas e vai investigar, mas deve priorizar seus recursos finitos. Disse ainda que pode adotar outras medidas além de decretar prisões.

Projetos de propostas da ONU para fazer com que as empresas de mídia social protejam melhor as mulheres foram compartilhados exclusivamente com o Panorama. Eles pedem que redes sociais introduzam rótulos para contas que já enviaram ataques misóginos. Também querem ver mais moderadores humanos tomando decisões sobre o material ofensivo — e um sistema de alerta precoce para os usuários se eles acharem que o abuso online pode se transformar em danos no mundo real.

“Gostaríamos de ver a violência de gênero online tratada, pelo menos, tão seriamente quanto a desinformação foi durante a pandemia pelas plataformas”, explica Julie Posetti, que liderou a pesquisa que desencadeou essas recomendações.