Pesquisadores da University College London (UCL), em parceria com instituições de Oxford e do Reino Unido, criaram uma estrutura para testar como chatbots de inteligência artificial reagem a usuários com vulnerabilidades psicológicas, como depressão e ansiedade.
O método, batizado de SIM-VAIL, simula conversas de múltiplas interações envolvendo nove modelos de IA, incluindo Claude, ChatGPT, Gemini, Grok e Llama. O estudo analisou mais de noventa mil avaliações clínicas, cobrindo trinta perfis de usuários simulados.
Os achados indicaram que comportamentos preocupantes nos chatbots eram comuns, embora tenham diminuído em modelos mais recentes. Os riscos surgem gradualmente, quando respostas aparentemente positivas reforçam processos psicológicos de vulnerabilidade, um padrão que os pesquisadores chamaram de Ciclo de Interação Amplificador de Vulnerabilidade (VAIL).
A equipe identificou que substituir uma resposta problemática no início de uma conversa leva a trocas subsequentes mais seguras. Essa descoberta aponta para a necessidade de intervenções focadas nas fases iniciais da escalada conversacional.
Os pesquisadores disponibilizaram o SIM-VAIL Explorer, uma plataforma aberta para que desenvolvedores e cientistas possam examinar as trajetórias de risco em diferentes modelos e vulnerabilidades psicológicas.
