The Intercept Brasil: Como derrubamos duas páginas de ódio sem dar audiência para elas

Por Alexandre de Santi e Tatiana Dias, do TIB

Desde o atentado na escola de Suzano, temos discutido aqui no Intercept qual é a melhor maneira de abordar casos de disseminação de ódio, ameaças, suicídios e terrorismo. A gente já decidiu, por exemplo, que não vai dar os nomes e nem informações detalhadas sobre assassinos e os espaços que costumam incitar e aplaudir violência. O que eles querem é notoriedade – e nós não vamos contribuir para isso.

Nesta semana, surgiu um novo caso. Um notório troll brasileiro, saído das profundezas dos chans, conseguiu espaço – e audiência – no Google e no Facebook. Com um histórico que inclui prisão por racismo e pedofilia – além de uma intensa atuação para ameaçar e perseguir pessoas na internet –, ele começou recentemente a conseguir um novo público nas redes sociais. Em posts, vídeos e até lives, ele falava abertamente sobre teorias conspiratórias e distribuía ameaças. Dava para fazer o bingo das violações dos termos de uso das plataformas, mas o conteúdo ficou dias no ar – o suficiente para alcançar uma audiência de mais de 200 mil visualizações.

A nossa primeira reação foi cogitar publicar uma reportagem sobre os vídeos como forma de pressionar as plataformas a tirar o conteúdo do ar. Mas surgiu a dúvida: não estaríamos ao mesmo tempo contribuindo para a notoriedade do troll? Tomamos um caminho diferente. Denunciamos os vídeos nas próprias plataformas e pedimos explicações às empresas por meio de suas assessorias de imprensa: por que aquele material ainda estava no ar? Dois dias depois das nossas denúncias, tanto Google quanto Facebook decidiram remover as páginas. Disseram, por meio de suas assessorias de imprensa, que o conteúdo violava suas políticas de uso. Ajudamos a derrubar os vídeos sem que fosse preciso publicar links, nomes, fotos ou nada que aumentasse a relevância do troll. 

As plataformas se equilibram no difícil limiar entre a liberdade de expressão e a violação de direitos, mas não raramente tendem para o primeiro lado porque, para elas, garantir um espaço ~livre~ garante, também, a prosperidade de seu modelo de negócios. Já explicamos como as gigantes de tecnologia contribuem para exacerbar nossas emoções e intensificar a nossa raiva – isso aumenta as interações e, consequentemente, as possibilidades delas nos conhecerem e lucrarem com propaganda direcionada. Também mostramos que o YouTube, por sua natureza, se tornou um ambiente fértil para a propagação de vídeos extremistas, em especial aqueles que favorecem ideologias da extrema direita

Por causa da escala e do gigantesco número de usuários, Google e Facebook gostam de dizer que investem em inteligência artificial que avalia automaticamente os conteúdos que sobem atrás de violações. As máquinas são eficientes em identificar violência gráfica, nudez ou pornografia infantil, mas ainda patinam para reconhecer discurso de ódio, que pode estar escondido em nuances, gírias ou piadas internas. Assim, quando um conteúdo é denunciado, ele costuma passar por uma avaliação humana que leva em conta o contexto. E isso não depende do número de denúncias, mas da natureza delas. E esse sistema nem sempre funciona – um passeio rápido por qualquer rede social mostra que, apesar das denúncias, elas ainda são um terreno fértil para a propagação do ódio.

Por isso, a pior coisa que você pode fazer se quiser chamar atenção para este tipo de problema é divulgá-lo. Ok, entendemos que pode ser irresistível postar um link indignado – golden shower do presidente da república manda lembranças –, mas isso, na prática, só vai fazer com que mais gente tenha acesso àquilo. Você vai aumentar a audiência, que contará com a ajuda dos próprios algoritmos das redes sociais para popularizar justamente aquilo que acha que não deveria estar no ar.

Depois do atentado em Suzano, autoridades já começaram a falação de sempre culpando os games e a internet. A deputada Joice Hasselmann, do PSL, disse que quer que a Polícia Federal investigue a deep web. O deputado Filipe Barros, do mesmo partido, chamou uma audiência pública para discutir a “vulnerabilidade de menores de idade nas redes sociais”, principalmente, segundo ele, “por causa da deep web”. É muito fácil, e até natural, que se busquem culpados simples – mas o problema é muito mais profundo do que uma ou outra tecnologia. A deep web é o lugar onde muitos crimes são cometidos, sim, mas é também um espaço seguro para troca de informações em um tempo de vigilância massiva e risco real de vida para muitos ativistas. Aqui no Intercept, por exemplo, as pessoas podem nos enviar documentos de forma segura pelo Secure Drop, que deve ser acessado pelo navegador Tor, que garante navegação anônima.

A internet não é um mundo paralelo. Ela é um reflexo da sociedade. Uma sociedade violenta vai assistir a programas violentos na televisão. Vai compartilhar indignação. E vai encontrar fóruns obscuros para discutir absurdos. A solução mais simples é criminalizar a tecnologia, é claro – porque discutir a cultura de ódio, tão disseminada pelos próprios deputados do PSL, é muito mais complicado. 

Nesse sentido, o papel da mídia e dos intermediários que também funcionam como mídia, como Google e Facebook, precisa ser discutido. Se a sociedade valoriza a violência, nós vamos dar a ela o que ela quer ver, exacerbando o ódio? Ou assumir uma postura mais responsável? Na Nova Zelândia, a primeira-ministra Jacira Ardern se recusou a falar sobre o atirador responsávelpela morte de 50 pessoas em uma mesquita. “Ele buscou muitas coisas em seu ato de terror, entre elas a notoriedade. É por isso que você nunca me ouvirá mencionar seu nome”, disse.

Por aqui, acreditamos que a defesa da liberdade de expressão passa, necessariamente, pela manutenção de espaços seguros para que as pessoas possam falar livremente e ser quem elas são sem correr risco por isso. Por isso, disseminar um conteúdo de ódio – ainda que for como denúncia – não é mais importante do que agir para que ele seja removido o mais rápido possível, cobrando responsabilidade de quem deve ser cobrado. Se Google e Facebook não tivessem derrubado os vídeos, publicaríamos uma reportagem denunciando a omissão. Felizmente, não foi necessário. Esperamos que não seja necessária a pressão de um jornalista para que isso aconteça. 

Texto enviado no Boletim Semanal do The Intercept Brasil.

Foto: iStock

Deixe uma resposta

O comentário deve ter seu nome e sobrenome. O e-mail é necessário, mas não será publicado.

4 × 3 =