O discurso de ódio online é um tipo de discurso de ódio que ocorre na internet com o propósito de atacar uma pessoa ou um grupo com base em sua raça, religião, origem étnica, orientação sexual, deficiência e/ou gênero. O discurso de ódio online não é facilmente definido, mas pode ser reconhecido pela função degradante ou desumanizadora que desempenha.
Tratados multilaterais, como o Pacto Internacional dos Direitos Civis e Políticos (PIDCP), têm procurado definir seus contornos. Processos multissetoriais (como o Plano de Ação de Rabat) têm buscado maior clareza e sugerido mecanismos para identificar mensagens de ódio. Órgãos nacionais e regionais têm procurado promover entendimentos do termo mais enraizados nas tradições locais.
A velocidade e o alcance da Internet dificultam a aplicação da legislação nacional pelos governos no mundo virtual. As redes sociais são um espaço privado para a expressão pública, o que dificulta o trabalho dos reguladores. Algumas das empresas proprietárias desses espaços têm se mostrado mais receptivas ao combate ao discurso de ódio online.
Definições Discurso de ódio O conceito de discurso de ódio aborda o conflito entre a liberdade de expressão e os direitos individuais, coletivos e das minorias, bem como os conceitos de dignidade, liberdade e igualdade. Não é facilmente definido, mas pode ser reconhecido por sua função.
Na legislação nacional e internacional, discurso de ódio refere-se a expressões que incitam à violência, incluindo atos de discriminação, hostilidade, radicalização, violência verbal e/ou física, com base na identidade social e/ou demográfica dos alvos. O discurso de ódio pode incluir, mas não se limita a, discursos que defendem, ameaçam ou incentivam atos violentos. O conceito pode também abranger expressões que fomentam um clima de preconceito e intolerância, partindo do pressuposto de que isso pode alimentar a discriminação, a hostilidade e os ataques violentos. Em momentos críticos, como durante eleições políticas, o conceito de discurso de ódio pode ser suscetível à manipulação; acusações de incitação ao discurso de ódio podem ser trocadas entre oponentes políticos ou usadas por aqueles no poder para reprimir a dissidência e a crítica. O discurso de ódio (seja ele transmitido por texto, imagens e/ou som) pode ser identificado por aproximação através das funções degradantes ou desumanizantes que desempenha.
O jurista e teórico político Jeremy Waldron argumenta que o discurso de ódio sempre contém duas mensagens: primeiro, fazer com que os membros do grupo externo se sintam indesejados ou com medo; e segundo, fazer com que os membros do grupo interno sintam que suas crenças odiosas são legítimas.
Características do discurso de ódio online A proliferação do discurso de ódio online, observada pelo Relator Especial do Conselho de Direitos Humanos da ONU sobre Questões de Minorias, Rita Izsák, apresenta um novo conjunto de desafios. Tanto as plataformas de redes sociais quanto as organizações criadas para combater o discurso de ódio reconheceram que as mensagens odiosas disseminadas online são cada vez mais comuns e têm atraído uma atenção sem precedentes para o desenvolvimento de respostas adequadas.Ver Conselho da Europa, "Estudo de mapeamento de projetos contra o discurso de ódio online", 15 de abril de 2012. Ver também entrevistas: Christine Chen, Gerente Sênior de Políticas Públicas do Google, 2 de março de 2015; Monika Bickert, Chefe de Gestão de Políticas Globais do Facebook, 14 de janeiro de 2015. De acordo com o HateBase, um aplicativo online que coleta casos de discurso de ódio em todo o mundo, a maioria dos casos de discurso de ódio tem como alvo indivíduos com base em etnia e nacionalidade, mas as incitações ao ódio com foco em religião e classe social também têm aumentado.Consulte HateBase, "Estatísticas sobre discurso de ódio", http://www.hatebase.org/popular Em 2025, o secretário-geral da ONU, António Guterres, fez um alerta global sobre como as plataformas e algoritmos estão fazendo o discurso de ódio se espalhar mais depressa e mais longe do que nunca.
Embora o discurso de ódio online não seja intrinsecamente diferente de expressões semelhantes encontradas offline, existem desafios peculiares exclusivos do conteúdo online e de sua regulamentação. Esses desafios estão relacionados à sua permanência, itinerância, anonimato e caráter complexo e transjurisdicional.
O avanço dos sistemas automáticos de moderação de conteúdo fez com que o discurso de ódio online evoluísse para formas mais sutis e codificadas, frequentemente descritas como dogwhistles, mensagens que parecem inofensivas para o público geral, mas que transmitem conteúdos preconceituosos ou supremacistas para grupos específicos. Essa dinâmica inclui o uso de ironia, memes subvertidos, códigos numéricos e o fenômeno do algospeak, que consiste na modificação intencional de grafias ou substituição de palavras por emojis. Essas estratégias mascaram o preconceito sob o manto da ambiguidade, dificultando tanto a denúncia por parte dos usuários quanto a detecção imediata por algoritmos de inteligência artificial.
Permanência O discurso de ódio pode permanecer online durante muito tempo em diferentes formatos e em múltiplas plataformas, que podem ser interligadas repetidamente. Como observou Andre Oboler, CEO do Online Hate Prevention Institute: "Quanto mais tempo o conteúdo permanece disponível, mais danos ele pode causar às vítimas e capacitar os perpetradores. Se você remover o conteúdo precocemente, poderá limitar a exposição. Isto é como limpar o lixo, não impede as pessoas de jogar lixo, mas se você não cuidar do problema, ele simplesmente se acumula e agrava ainda mais".Entrevista: Andre Oboler, CEO, Online Hate Prevention Institute, 31 de outubro de 2014. As conversas do Twitter, organizadas em torno de trending topics, podem facilitar a disseminação rápida e ampla de mensagens de ódio, mas também oferecem a oportunidade para que oradores influentes se contraponham à elas e possivelmente acabem com tópicos populares que incitam à violência. O Facebook, pelo contrário, pode permitir que vários tópicos continuem em paralelo e passem despercebidos; criando espaços mais duradouros que ofendem, discriminam e ridicularizam certos indivíduos e grupos.
Itinerância O discurso de ódio online pode ser itinerante. Mesmo quando o conteúdo é removido, pode encontrar expressão noutro local, possivelmente na mesma plataforma com um nome diferente ou em diferentes espaços online. Se um website for encerrado, pode reabrir rapidamente utilizando um serviço de alojamento web com regulamentações menos rigorosas ou através da realocação para um país com leis que imponham limites mais elevados para o discurso de ódio. A natureza itinerante do discurso de ódio também significa que pensamentos mal formulados, ou comportamentos sob influência, que não teriam encontrado expressão e apoio públicos no passado, podem agora aterrar em espaços onde podem ser visíveis para grandes públicos.
Anonimato O anonimato também pode representar um desafio para lidar com o discurso de ódio online. As discussões na Internet podem ser anônimas ou sob pseudônimo, o que pode fazer com que as pessoas se sintam mais seguras para expressar suas opiniões, mas pode facilmente acelerar o comportamento destrutivo. Como afirmou Drew Boyd, Diretor de Operações do The Sentinel Project, "a Internet concede aos indivíduos a capacidade de dizer coisas horríveis porque pensam que não serão descobertos. Isto é o que torna o discurso de ódio online tão único, porque as pessoas se sentem muito mais confortáveis em falar de ódio do que na vida real, quando têm de lidar com as consequências do que dizem".Entrevista: Drew Boyd, Director of Operations, The Sentinel Project for Genocide Prevention, 24 de outubro de 2014. A China impõe políticas de nomes reais para as redes sociais, assim como a Coréia do Sul, até 2012, quando a medida foi declarada como inconstitucional. Facebook, LinkedIn e Quora procuraram ativar um sistema de nomes reais para ter mais controle sobre o discurso de ódio online. Tais medidas têm sido profundamente contestadas, pois são consideradas uma violação do direito à privacidade e da sua intersecção com a liberdade de expressão.
Muitos casos de discurso de ódio online são postados por "trolls" da Internet, que normalmente são usuários pseudônimos que postam conteúdo chocante, vulgar e, em geral, falso, com a intenção explícita de desencadear uma reação negativa, embora também possa ter a intenção de influenciar ou recrutar o leitor para suas crenças, se eles compartilharem a mesma opinião. As redes sociais também forneceram uma plataforma para grupos políticos ou religiosos radicais e extremistas formarem, estabelecerem redes e colaborarem para difundirem as suas mensagens de anti-establishment e anti-politicamente correto, e promoverem crenças e ideologias que são racistas, anti-feministas, homofóbicas, transfóbicas, etc. A comunicação online totalmente anônima é rara, pois exige que o usuário empregue medidas altamente técnicas para garantir que não possam ser facilmente identificados.
Disseminação transjurisdicional Uma complicação adicional é o alcance transnacional da Internet, que levanta questões de cooperação transjurisdicional em relação aos mecanismos legais de combate ao discurso de ódio. Embora existam tratados de assistência jurídica mútua em vigor na Europa, Ásia e América do Norte, estes são caracteristicamente lentos para entrar em vigor. O alcance transnacional de muitos intermediários da Internet do setor privado pode fornecer um canal mais eficaz para a resolução de problemas em alguns casos, embora essas entidades também sejam frequentemente afetadas por solicitações de dados que transcendem jurisdições (como a revelação da identidade do(s) autor(es) de um determinado conteúdo). Diferentes jurisdições também possuem definições únicas para discurso de ódio, o que dificulta o processo contra os autores que podem buscar refúgio em jurisdições menos rigorosas.
Ao contrário da disseminação de discursos de ódio por canais convencionais, as vítimas de discursos de ódio online podem enfrentar dificuldades para saber a quem recorrer em busca de ajuda, já que a plataforma e a polícia da sua região, e a polícia do local da pessoa ou pessoas que usam o discurso de ódio, podem achar que o problema não é de sua jurisdição, mesmo quando existem políticas e leis contra o discurso de ódio. Organizações não governamentais e grupos de pressão têm trabalhado para conscientizar e incentivar diferentes partes interessadas a tomarem medidas.
Inteligência artificial Algumas empresas de tecnologia, como a Meta (incluindo suas plataformas Facebook e Instagram) e o X, usam sistemas de Inteligência Artificial (IA) para monitorar discursos de ódio. No entanto, a IA pode nem sempre ser uma forma eficaz de monitorar discursos de ódio, visto que os sistemas carecem das capacidades de julgamento que os humanos possuem. Por exemplo, um usuário pode publicar ou comentar algo que se classifique como discurso de ódio ou viole as diretrizes da comunidade, mas se a palavra-alvo estiver escrita incorretamente ou se algumas letras forem substituídas por símbolos, os sistemas de IA não a reconhecerão. Essa fragilidade levou à proliferação de tentativas de burlar algoritmos de censura, usando erros ortográficos deliberados e neologismos, como o uso de "vachinas" em vez de "vacinas" por pessoas que questionavam a vacinação durante a pandemia de COVID-19.
Portanto, os humanos ainda precisam monitorar os sistemas de IA que monitoram discursos de ódio; um problema comum na tecnologia de IA que é conhecido como "A Última Milha da Automação", ou seja, os últimos 10% ou 1% do trabalho, são os mais difíceis de concluir.
Relação com extremismo e radicalização