O Discord informou ao governo federal que havia indícios de risco em transmissão ao vivo que resultou na morte de uma adolescente. A empresa alegou que, apesar dos sinais, o sistema interno não acionou um alerta confiável no momento do incidente.
O documento, datado de dez de agosto, respondeu a questionamentos da Secretaria Nacional de Direitos Digitais, ligada ao Ministério da Justiça. A investigação foca em uma transmissão onde uma menina de 13 anos teria sido induzida por outros adolescentes à automutilação e ao suicídio.
A companhia declarou que os sinais identificados após a revisão do incidente apontavam para um ecossistema de alto dano. Contudo, no momento do ocorrido, esses sinais não acionaram, isolada ou combinada, revisão humana ou aplicação automatizada, segundo o texto obtido.
O sistema de aprendizado de máquina processou os dados, mas não gerou alerta com nível de confiança suficiente. A transmissão específica recebeu pontuação de 0,12, enquanto o limite para identificação automática é de 0,95. O Discord afirmou derrubar o servidor antes da morte da jovem.
A Agência Nacional de Proteção de Dados (ANPD) emitiu nota técnica concluindo que a plataforma depende de denúncias dos próprios participantes. A ANPD considerou falha grave o modelo, pois um fato gravíssimo recebeu sinalização de risco baixa. Em resposta, o Discord contestou a decisão, alegando que a atividade criminosa ocorreu em outras plataformas antes de ser migrada para o ambiente da empresa.
