A Meta implementou um sistema que dispara notificação parental quando adolescentes discutem suicídio ou automutilação com a Meta AI. A medida, divulgada na quinta-feira, envia alertas apenas para pais que usam os controles de supervisão do Instagram, e a empresa revisa manualmente os chats sinalizados.
A nova política expande as medidas existentes para informar os responsáveis sobre o uso da Meta AI por seus filhos. Segundo a Meta, a empresa trabalhou com pais e especialistas para definir quais conversas exigem um alerta, incluindo referências sutis de um adolescente sobre se machucar.
Atualmente, a Meta AI já direciona usuários em risco para linhas de ajuda de crise e incentiva a busca por um adulto de confiança. Com a atualização, os pais recebem um aviso sobre tais diálogos. A empresa afirmou que adotará uma postura cautelosa, e o alerta será enviado por notificação no aplicativo e por e-mail, SMS ou WhatsApp, conforme o contato fornecido.
Além disso, a Meta anunciou um ajuste de conteúdo limitado para a Meta AI. Este recurso ativa filtros mais rigorosos, fazendo com que os modelos de IA rejeitem uma gama maior de perguntas problemáticas, reduzindo a chance de conversas inadequadas.
Defensores da segurança infantil criticam as atualizações, alegando que os controles parentais sobrecarregam os cuidadores. A empresa enviará os alertas nos Estados Unidos, Reino Unido, Canadá e Austrália, com previsão de acesso global até o final do ano.
