A OpenAI lançou o ChatGPT para Adolescentes, uma versão customizável da inteligência artificial voltada para usuários entre treze e dezessete anos. O produto, que começou a funcionar na terça-feira, visa apoiar o aprendizado e as relações humanas, segundo anúncio da empresa.
A nova ferramenta incorpora medidas de segurança existentes para menores e inclui recursos focados em bem-estar e estudo. Os usuários recebem avisos para fazer pausas, lembretes de que interagem com uma IA e alertas contra o envio de imagens sensíveis. A plataforma também notifica os responsáveis quando os adolescentes discutem atos de violência.
A OpenAI estabeleceu diretrizes para que o ChatGPT para Adolescentes não utilize linguagem romântica ou sugira ter sentimentos. Além disso, todos os comandos iniciais passam a ter relação com educação. O produto oferece questionários baseados no conteúdo do chat e um modo de ‘Horas de Estudo’ que permite restringir o uso da IA em períodos definidos.
Apesar dos exemplos positivos, como um sistema de busca e resgate criado por jovens, a ferramenta enfrenta controvérsias. Autoridades de Massachusetts acusaram um jovem de dezessete anos de assassinato após usar a IA para criar histórias de fantasia envolvendo sua família. A empresa também é alvo de processos por mortes por suicídio de usuários adolescentes.
