A Autoridade Nacional de Proteção de Dados (ANPD) suspendeu temporariamente as transmissões ao vivo do Discord no Brasil. A medida ocorreu após a morte de uma adolescente de 13 anos, que teria sido incentivada por membros de uma comunidade online a cometer violência contra si mesma.
As investigações apontam que a trajetória da adolescente envolveu diferentes plataformas. Redes como TikTok e Instagram foram usadas para divulgação, enquanto Telegram e o próprio Discord serviram como espaços fechados para organização e coerção. Os indícios sugerem que cada serviço mostra apenas um trecho do processo.
A moderação tradicional foca na remoção de conteúdo após a violação das regras, o que ocorre muitas vezes depois que o dano já aconteceu. Especialistas defendem a governança algorítmica como alternativa. Essa abordagem questiona por que um conteúdo foi mostrado a um usuário específico e se o sistema recomendou conteúdos progressivamente mais extremos.
Governar os algoritmos significa retirar das empresas o controle opaco sobre os sistemas que organizam a atenção do público. Isso exige auditorias independentes e transparência sobre os objetivos dos sistemas de recomendação. O ECA Digital avança ao focar na arquitetura da plataforma, e não apenas no conteúdo isolado.
Contudo, a proposta de verificação de idade gera críticas. A exigência de identificação de todos os usuários, inclusive adultos, pode preservar a arquitetura de risco das plataformas sem alterar o modelo de negócios. O caso também reflete um paralelo com a radicalização política, onde sistemas otimizados para engajamento premiam medo e conflito.
