A ONU afirma que o discurso violento na internet tem aumentado e seus efeitos são avassaladores. Causam discriminação, exclusão e aumentam a desigualdade social. Este discurso pode ser definido como “qualquer forma de comunicação, escrita ou comportamental, que ataque ou use linguagem discriminatória com referência a uma pessoa ou grupo baseado em sua identidade, ou seja, religião, etnia, nacionalidade, raça, cor, descendência, gênero ou outra característica”. Em julho de 2021, mais de 150 países membros da ONU aprovaram uma resolução para lutar contra o discurso violento em qualquer plataforma. A ideia é que a luta não entre em conflito com a liberdade de expressão, no entanto quando o discurso vira uma arma para violar os direitos de outras pessoas, é preciso ter uma resposta. As consequências do discurso violento não devem ser subestimadas. A campanha “O Virtual é Real”, criada pela organização, traz histórias reais sobre as consequências do discurso violento. A maioria das vítimas da violência online são mulheres (85%) e o site da campanha traz depoimentos, incluindo vítimas da América do Sul. Ainda de acordo com a campanha, 57% das mulheres foram vítimas de abuso ou mau uso com imagens suas online. Dos vídeos online deepfakes (falsos e criados com inteligência artificial), 96% são pornografia, feitos para atacar mulheres.
Movimento online e o filtro para o Instagram bodyright
A UNFPA (Fundo para Apoio à População) é a agência da ONU a cargo da campanha. Uma ferramenta online para inspirar um movimento contra o discurso violento é o bodyright. Um filtro para stories no Instagram coloca o símbolo de um “b”, parecido com o “c” de copyright, no fotografado, identificando o direito ao corpo (bodyright) nas redes sociais. O logotipo transparente também está disponível para download. “Quem comete infração de direito autoral (copyright) pode sofrer penalidades e a remoção de conteúdo de plataformas digitais. Já os sobreviventes da violência online podem até enfrentar obstáculos para remover conteúdo que fere seus direitos legais. Por isso a UNFPA criou a bodyright, um copyright para o corpo humano. Exigimos que as imagens de nossos corpos tenham o mesmo respeito dado à proteção que o copyright dá à música, filme e até logotipos de empresas”, afirma a campanha. O objetivo do bodyright é criar um movimento, com uma petição online que já coletou mais de 15.000 assinaturas. Ao chegar a 20.000 assinaturas, a petição será enviada a empresas de tecnologia, governos e ONGs pedindo ação contra o ódio na internet. A intenção é que a violência, especialmente o abuso no uso de imagens de corpo de mulheres sem o consentimento, seja vista como crime. A campanha foi divulgada também em vídeo.
Quais são os impactos principais do discurso violento?
Organizações da sociedade civil que pesquisam mídia, como a Associação para o Progresso das Comunicações (APC), listaram alguns impactos do discurso violento:
A comunidade LGBTQIA+ é especialmente vulnerável ao discurso violento. A organização GLAAD criou um índice de segurança nas redes sociais e mostrou que, em 2021, este grupo é vítima de 64% dos ataques online, enquanto a população em geral sofre com 41%. Nos países sem leis anti-discriminação LGBTQIA+, o discurso violento torna a internet tão insegura quanto espaços físicos. Frequentemente, este grupo procura a internet para conhecer pessoas, se expressar e acessar informações e sofre consequências por conta disto.
Nas Filipinas, Maria Ressa, jornalista, CEO do site de notícias sobre redes sociais Rappler e vencedora do Prêmio Nobel da Paz foi o alvo de discurso violento por apoiadores do presidente, com efeitos devastadores em sua vida, bem estar e habilidade de realizar seu trabalho. Na Índia, um relatório mostrou que a pandemia resultou em uma grande onda contagiosa de conflito contra os muçulmanos no país. As técnicas utilizadas foram: descontextualização, fingimento, distorção de falas, criação de conteúdo falso designado a provocações, amplificação da violência por indivíduos proeminentes.O Facebook foi apontado por investigadores da ONU como fator essencial que poderia ter levado a um genocídio em Myanmar (Birmânia). Marzuki Darusman, chefe de uma missão ao país, afirmou que a rede social é a mais usada localmente e seu uso sem responsabilização contribuiu para escalar o conflito. Na Palestina, uma pesquisa da 7amleh, mostrou que 71% dos palestinos consideram que a violência contra eles aumenta nas redes, 85,7% afirmam ter sido atacados no Facebook e 11,4% sofreram no Instagram. A organização MMFD, do Paquistão, criou o projeto #KinderInternet (internet mais gentil), com enquetes online, no Twitter e Instagram. A maioria das respostas indicou que os usuários se sentem pouco seguros nas redes em relação ao discurso violento
Propostas para diminuir ou responder ao aumento discurso de ódio tem sido alvo de pesquisas de organizações como a APC. Suas recomendações incluem:
Realizar respostas holísticas, incluindo tratar de temas como a discriminação estrutural e a desigualdade.A prática do discurso violento está ligada ao abuso de poder. Este tipo de fala é um sintoma da violência sistemática, marginalização e opressão de parte da população.Há inúmeros pedidos para que Estados criem leis para ajudar a regulamentar conteúdo. No entanto, algumas minorias e grupos vulneráveis são criminalizados em determinados países. Neste caso, o efeito colateral da regulamentação pode gerar até mais risco para essas comunidades.A propagação do discurso violento é geralmente organizada, planejada e pré-fabricada. É preciso organizar estratégias para tratar do tema que inspirem a cordialidade.É uma ação chave a promoção de comunidades afetadas, para que criem seu próprio conteúdo e narrativas e contem suas histórias.A organização FMA, das Filipinas, criou histórias em quadrinhos para combater o discurso violento no país. Os temas valorizam as narrativas de minorias e mulheres.Uma campanha da MMFD, do Paquistão, para uma internet mais gentil espalhou a ideia de firmar compromissos entre quem navega online. Voluntários compartilharam fotos no Instagram com placas prometendo atuar contra o discurso violento.
O que os governos podem fazer para combater o discurso violento na internet?
Regulamentar padrões de transparência mínimos requeridos de plataformas de redes sociais. As empresas frequentemente são bastante fechadas sobre quais dados podem ser cruciais para pesquisadores e defensores dos direitos humanos. Os governos podem incentivá-las a aumentar a transparência.Estabelecer regras claras a respeito da obrigação de empresas de respeitarem os direitos humanos, incluindo em relação à rápida investigação de ataques e avaliações de impacto de publicações.Evitar aumentar a regulamentação de conteúdo autoritária que seja muito vaga e destinada a controlar a internet. Prejudicar a liberdade de expressão não é uma maneira eficiente de fazer com que as empresas de redes sociais contribuam para o fim do discurso violento.
O que empresas podem fazer para combater o discurso violento online?
Treinar moderadores de conteúdo em discurso violento. Deve haver treinamento sobre padrões para direitos humanos e estes padrões devem ser usados para guiar a moderação. Priorizar a moderação humana do conteúdo. Assegurar a revisão humana em vez de deixar a tarefa de moderar conteúdo apenas a algoritmos. Adotar políticas de moderação de conteúdo que estão alinhadas com padrões de direitos humanos internacionais. Estar ciente e ter atenção a línguas e contextos locais. Alguns tipos de discursos violentos só podem ser identificados por quem tem conhecimento do contexto local sociocultural, suas tensões e história.Ser transparente sobre o discurso violento e como lidar com ele, para que pesquisadores e grupos da sociedade civil possam saber o que acontece e sugerir soluções significativas.Ter mecanismos claros e acessíveis para reclamações e remediar situações.Serviços e empresas digitais devem reconhecer e aderir a responsabilidade de respeitar os direitos humanos de seus usuários e outros impactados por suas operações, em linha com os princípios da ONU para guiar negócios em direitos humanos.
Comunicação é a chave para sobreviver a violência
Assim como a violência de gênero toma muitas formas, a digital também tem muitas maneiras de vitimar pessoas. O atacante pode ser um estranho em outro continente ou alguém conhecido que usou a tecnologia como arma e a sexualidade de uma vítima contra ela. Grupos marginalizados, incluindo pessoas com deficiências e indivíduos LGBTQIA+, podem ser ainda mais vulneráveis. Para os sobreviventes e as vítimas desse abuso sexualizado, como as mulheres jovens com histórias reveladas, não há distinção entre o real e o virtual. Sair do computador não faz terminar o terror. As consequências são muito reais – medo, pânico, ansiedade, depressão, stress pós-traumático, pensamentos suicidas e muito mais. A campanha lembra que nossas vidas online e offline pode se misturar e ser indistinguíveis. Mesmo depois que a violência termina, as cicatrizes permanecem. Os sobreviventes podem limitar seu uso de internet ou deixar totalmente de se conectar, deixando de fazer parte de comunidades e conexões, explorações e descobertas, oportunidades econômicas, educação e entretenimento. Para quem é vítima de violência online, é importante saber que não se está sozinho. Falar com família e amigos pode ser um primeiro passo para lidar com o problema. Não se deve permitir que o medo ou a vergonha a impeçam de procurar ajuda.
Quais são as práticas de violência digital?
Doxxing – expor os dados pessoais de uma vítimaCybermob (linchamento virtual) – um grande grupo de atacantes que ameaçam, insultam ou abusam verbalmente de uma vítima, frequentemente de maneira coordenada e organizada.Abuso de imagem – o uso de imagens, frequentemente sexuais, para objetificar, explorar, humilhar ou assediar. Exemplos incluem o compartilhamento sem o consentimento de imagens íntimas e material de abuso sexual de menores de idade.Fingimento online – criação de perfil falso e assumir a identidade de outra pessoa para propósitos nefastos, incluindo destruir a reputação de alguém ou ameaçar sua segurança.Extorsão sexual – um tipo de chantagem eletrônica, com demanda de dinheiro, atos sexuais ou imagens sexuais adicionais em troca de não expor imagens íntimas ou informação privada.Stalking (perseguição) – perseguir persistentemente, indesejadamente ou vigilância ameaçadora, realizada por meios tecnológicos. Frequentemente pode ser o início de uma perseguição offline.Cyberbullying (assédio moral virtual) – forma de assédio, infringir constante e intencionalmente dano a alguém através da tecnologia, com ataques à auto-estima.Shallowfake (imagem falsa simples) – Imagem manipulada, através de software de edição, como colocar a face de alguém em outro corpo. Uma forma mais simples do deepfake, que é a imagem manipulada com machine learning (aprendizado de máquina).
Veja também Saiba o que fazer quando fotos íntimas vazarem na internet. Fontes: The Virtual is Real, Bodyright, APC – Challenge Online Hate
