Especialistas alertam para os riscos de utilizar inteligência artificial como substituta de acompanhamento psicológico. A professora Rezvaneh Rezapour, da Universidade Drexel, disse que a IA pode reforçar comportamentos de autolesão e intensificar sintomas de transtornos mentais.
A professora Rezvapour afirmou que usar a IA durante uma crise pode ser prejudicial, pois a ferramenta pode reforçar comportamentos de autolesão em vez de oferecer uma intervenção clínica. Ela explicou que a IA pode intensificar, de forma não intencional, sintomas associados a diversos transtornos de saúde mental.
A tecnologia é projetada para manter o usuário engajado, tendendo a concordar com as falas sem impor limites ou seguir princípios éticos. Por isso, a IA não possui o julgamento clínico de um profissional de saúde mental e não conhece o contexto pessoal do indivíduo, impossibilitando a substituição de um acompanhamento adequado.
Além dos riscos clínicos, há preocupações com a privacidade. Segundo a pesquisa citada, o uso da IA pode criar padrões de busca repetitiva por reafirmação, o que pode aumentar o sofrimento emocional. A professora também mencionou preocupações sobre como os dados sensíveis de saúde mental estão sendo armazenados.
