A OpenAI lançou o ChatGPT para adolescentes, uma versão que promete fortalecer proteções de segurança para usuários entre treze e dezessete anos. Contudo, testes realizados por um jornalista mostraram que a ferramenta falha em cumprir seus objetivos de restrição, permitindo a geração de trabalhos escolares.
A empresa, liderada por Sam Altman, apresentou o recurso alegando que ele ajudaria jovens a aprender, pensar criticamente e usar inteligência artificial com confiança. Segundo a companhia, o sistema aplicaria proteções de segurança mais robustas e incluiria controles para pais, colocando automaticamente usuários entre treze e dezessete anos na nova funcionalidade.
No entanto, um teste comparativo realizado por Joshua Nelken-Zitser revelou a ineficácia das barreiras. Ao simular um estudante de quinze anos, ele observou que, após uma pequena resistência inicial, o ChatGPT para adolescentes gerou um ensaio de seiscentos e oito palavras sobre um tema complexo, algo que a versão adulta não havia feito de imediato.
O mesmo teste demonstrou que foi possível contornar o limite de trabalhos de casa com paciência. A ferramenta produziu textos com detalhamento similar ao gerado pela conta adulta. Em outra avaliação, a versão para jovens forneceu soluções idênticas às da versão padrão para uma questão de álgebra do SAT.
A situação preocupa educadores, que enfrentam o uso crescente da tecnologia por alunos. Um psicólogo cognitivo, Ronald Kellogg, relatou que estudantes estão delegando tarefas cognitivas à IA, o que pode prejudicar a capacidade de pensar. Diante disso, algumas escolas estão implementando proibições de dispositivos digitais.
