O Reddit atualizou os sistemas de moderação, passando a utilizar LLMs (modelos de linguagem de larga escala) para identificar perfis de spam antes mesmo que cheguem às comunidades. Segundo a plataforma, os novos filtros retêm cerca de 23 milhões de publicações de spam por dia e remove, diariamente, mais milhões de interações falsas que inflam artificialmente a visibilidade de posts.

Em um relatório de transparência divulgado hoje (06/07), a plataforma explica que a ideia é agir mais cedo contra contas falsas, campanhas coordenadas e outras violações, como discurso de ódio, dependendo menos de denúncias ou remoções manuais após a circulação do conteúdo. Segundo a plataforma, as atualizações já reduziram em 20% a exposição dos usuários a spam.

Na publicação, o Reddit reforça que a moderação dos fóruns segue com participação de humanos, administradores e revisores, além de moderadores voluntários em cada comunidade.

Os usuários também têm parte na estrutura da plataforma, através dos sistemas de upvote e downvote, que reduzem a visibilidade de posts considerados ruins — ações que também estão na mira dos sistemas automatizados do fórum.

Reddit tenta barrar violações antes que ocorram

Parte da nova proteção começa no momento em que uma conta é criada. O sistema avalia sinais e padrões de comportamento para tentar identificar esses perfis antes que eles consigam publicar.

Quando uma conta já está ativa, os filtros buscam sinais de coordenação, automação e engajamento artificial. Isso inclui a promoção falsa de posts ou manipulação da posição de conteúdos (através do sistema de votos) dentro das comunidades.

Contas suspeitas também podem ser obrigadas a passar por uma verificação de humanidade. A medida serve para separar usuários reais de bots ou sistemas automatizados que tentam operar em escala. O cofundador da plataforma, Alexis Ohanian, já havia demonstrado preocupação com o crescimento da atividade de bots na internet e é um grande defensor de mídias sociais mais humanas.

Remoção de conteúdo ficou mais rápida

O Reddit também ampliou o uso de IA para lidar com violações mais graves, como ameaças, assédio e discurso de ódio. Por enquanto, o monitoramento cobre textos em inglês, mas deve chegar a outros idiomas nos próximos meses, diz a plataforma.

Segundo a empresa, o tempo médio entre a detecção desses conteúdos e a remoção caiu para menos de cinco segundos, sendo que o volume de ações contra esse tipo de violação cresceu mais de 200%.

A plataforma afirma ainda que a exposição dos usuários a postagens nocivas caiu mais de 40%. Ao mesmo tempo, houve queda de 40% nos falsos positivos, ou seja, em casos em que conteúdos legítimos são removidos por engano.

Apesar do investimento, a companhia tem sido bastante restritiva ao mercado de inteligência artificial, quando ela não representa vantagens diretas à plataforma. Ela chegou a processar a Perplexity e bloquear os robôs do Internet Archive, citando raspagem indevida de dados pelas empresas de IA.

Reddit usa IA para bloquear 23 milhões de spams por dia