A Meta implementou novos recursos de segurança para adolescentes que utilizam o Meta AI, permitindo que pais sejam alertados quando o chatbot identificar conversas que indiquem risco de suicídio ou automutilação. A funcionalidade, que já existia com direcionamento a linhas de apoio, agora envia notificações proativas aos responsáveis.
A empresa desenvolveu uma ferramenta de inteligência artificial para identificar menções sutis ou explícitas a automutilação ou suicídio. Segundo a companhia, os critérios para os alertas foram criados em parceria com especialistas em saúde mental e pais. Antes de qualquer notificação ser enviada, o sistema sinaliza as conversas, que são revisadas por um moderador humano.
A Meta afirmou que o alerta pode ser encaminhado aos pais mesmo que a intenção do adolescente não esteja clara, adotando uma abordagem cautelosa para ampliar a proteção. O especialista Larry Magid, CEO e cofundador da ConnectSafely, apoiou a iniciativa, dizendo que os pais devem ser informados se a integridade física dos filhos estiver em risco.
Os alertas já estão ativos para famílias que usam a supervisão parental do Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá. A Meta informou que a funcionalidade será expandida para o Brasil até o final deste ano. Além dos avisos, a empresa trabalha em um recurso que conectará o Meta AI a serviços de emergência em casos de risco iminente.
