O Discord reconheceu que seus sistemas não identificaram, em tempo hábil, o risco em uma transmissão ao vivo que resultou na morte de uma menina de 13 anos. Devido ao ocorrido, as transmissões da plataforma estão suspensas até que a empresa comprove medidas de proteção a menores.
A declaração foi feita em documento enviado ao Ministério da Justiça durante o processo que levou à paralisação das atividades ao vivo em servidores privados. Na semana anterior, a Agência Nacional de Proteção de Dados cobrou esclarecimentos sobre a morte da adolescente, que teria sido induzida a automutilação e suicídio durante a live.
O documento enviado ao governo detalhou que o sistema de proteção não detectou a gravidade do caso. A derrubada do servidor responsável pela transmissão ocorreu 25 minutos após a Polícia Civil emitir o primeiro alerta de risco iminente de lesão corporal ou morte. O período entre o início e o fim da transmissão foi de quase duas horas.
Segundo o Discord, o sistema de detecção de risco opera por inteligência artificial. Na live em questão, os registros internos apresentaram uma pontuação de risco de 0,12, enquanto o limiar para alerta automatizado era de 0,95. A empresa afirmou que o resultado está sendo reexaminado para avaliar aprimoramentos nos critérios de priorização e na sensibilidade dos modelos.
