O vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, admitiu falhas no processo da plataforma após a morte de uma adolescente de 13 anos durante uma transmissão ao vivo. Ele afirmou que a empresa trabalha para aprimorar os modelos de segurança.
Hoffman explicou que a moderação do Discord opera com duas abordagens: proativa e reativa. Essas abordagens combinam aprendizado de máquina com outras ferramentas de automação. Equipes treinadas supervisionam esse trabalho para prevenir condutas como exploração e abuso sexual infantil.
Segundo o executivo, cerca de 15% da empresa é dedicada à segurança, com centenas de profissionais atuando na moderação. Ele mencionou que há especialistas na equipe que conhecem o mercado brasileiro e que os investimentos na área seguem contínuos.
O servidor onde ocorreu a transmissão era pequeno e havia sido criado menos de duas horas antes do incidente. Hoffman disse que as informações disponíveis não acionaram o modelo de aprendizado de máquina para encaminhar o caso à revisão humana.
O vice-presidente também declarou que o combate à violência digital exige colaboração entre redes sociais. Ele afirmou que grupos extremistas migram entre plataformas, e o sucesso reside em detê-los completamente, e não apenas removê-los de um serviço.
