O discurso de ódio, que antes circulava principalmente em interações presenciais, hoje se dissemina rapidamente por meio de plataformas digitais, muitas vezes de forma anônima. No contexto do Dia Internacional de Combate ao Discurso de Ódio, celebrado em 18 de junho, a Organização das Nações Unidas (ONU) alertou para o papel das redes sociais na amplificação dessa ameaça. Com o avanço da inteligência artificial (IA), muitas empresas passaram a utilizar modelos automatizados para identificar e remover conteúdos considerados ofensivos ou discriminatórios. Entretanto, esses sistemas ainda enfrentam dificuldades significativas em igualar a precisão do julgamento humano.

De acordo com a ONU, discurso de ódio compreende qualquer forma de comunicação, seja verbal, escrita ou comportamental, que incite discriminação ou violência contra indivíduos ou grupos. Essa comunicação pode se basear em características reais ou percebidas, como identidade, raça, etnia, religião, gênero, orientação sexual ou deficiência. Além das palavras, o discurso de ódio pode manifestar-se por meio de imagens, gestos, caricaturas e objetos.

Uma pesquisa conjunta realizada em 2023 pela Ipsos e pela Organização das Nações Unidas para a Educação, Ciência e Cultura (UNESCO), com 8 mil pessoas em 16 países, revelou que mais de dois terços dos usuários da internet já tiveram contato com discurso de ódio. O levantamento apontou que 33% dos entrevistados acreditam que pessoas LGBTQI são as mais afetadas, seguidas por minorias étnicas e raciais (28%) e mulheres (18%).

No âmbito das plataformas digitais, houve uma redução na remoção proativa de conteúdos considerados ofensivos. Por exemplo, a Meta, proprietária do Facebook e Instagram, diminuiu a quantidade de posts removidos por discurso de ódio no último trimestre de 2025, em comparação com o mesmo período do ano anterior. Enquanto isso, o TikTok informou ter eliminado 96,3% dos conteúdos de ódio antes mesmo de serem reportados pelos usuários.

Para lidar com o volume massivo de publicações, as empresas têm investido em sistemas de moderação baseados em inteligência artificial, especialmente modelos de linguagem treinados para identificar padrões de abuso. Esses sistemas utilizam conjuntos de dados rotulados e aplicam regras ou limites de pontuação para determinar se um conteúdo viola as políticas da plataforma.

Um estudo de 2025 realizado por pesquisadores da Universidade da Pensilvânia avaliou sete sistemas de moderação de IA, incluindo modelos desenvolvidos por OpenAI, Anthropic, DeepSeek, Mistral e Google. A análise revelou variações consideráveis na identificação e classificação do discurso de ódio, com discrepâncias relevantes entre os sistemas e em relação a diferentes grupos demográficos. Essas inconsistências levantam preocupações sobre vieses e proteção desigual dos usuários online.

Por exemplo, o sistema Mistral frequentemente atribui pontuações altas, indicando que classifica muitos conteúdos como altamente odiosos, independentemente do grupo alvo. Em contrapartida, o modelo da OpenAI tende a apresentar avaliações mais baixas para várias categorias, às vezes menos da metade do que outros sistemas indicam. Essa divergência pode comprometer a legitimidade do processo de moderação, já que o mesmo conteúdo pode ser tratado de formas distintas.

Além da variação entre sistemas, existem limitações intrínsecas na detecção automatizada. A inteligência artificial tem maior facilidade para identificar discursos explícitos, que contenham palavras ofensivas ou insultos claros. No entanto, discursos implícitos, que não utilizam termos pejorativos diretamente, são frequentemente ignorados. Um exemplo seria mensagens que aparentam ser positivas, mas que, na sequência, fazem afirmações depreciativas sobre determinado grupo.

Outro desafio é o reconhecimento do contexto cultural e linguístico, especialmente em casos de linguagem ressignificada. Termos historicamente ofensivos podem ser apropriados por comunidades marginalizadas como forma de empoderamento, e o uso desses termos entre membros dessas comunidades não deve ser interpretado como discurso de ódio. Entretanto, sistemas de IA tendem a sinalizar esses casos como conteúdo ofensivo, devido à dificuldade em compreender nuances contextuais.

Esses aspectos evidenciam que, apesar dos avanços tecnológicos, a moderação automatizada ainda não substitui completamente o discernimento humano. A complexidade do discurso de ódio, que envolve aspectos culturais, sociais e linguísticos, exige abordagens que combinem inteligência artificial com revisão humana para garantir maior precisão e justiça na aplicação das políticas.

No futuro próximo, espera-se que as plataformas aprimorem seus modelos de IA para reduzir vieses e melhorar a detecção de discursos implícitos e contextuais. Além disso, a transparência nos critérios de moderação e a participação de especialistas em diversidade e direitos humanos podem contribuir para processos mais equilibrados. A evolução dessas ferramentas terá impacto direto na experiência dos usuários e na eficácia do combate ao discurso de ódio na internet, influenciando também a regulação e a governança digital global.