Abi, residente em Manchester, na Inglaterra, utiliza o ChatGPT, um chatbot de inteligência artificial, para obter conselhos sobre sua saúde desde o ano passado. A conveniência do chatbot é evidente, especialmente quando é difícil conseguir uma consulta com um clínico geral. O ChatGPT já foi aprovado em alguns exames médicos, mas a confiança nas suas respostas é questionada.
Abi, que sofre de ansiedade relacionada à saúde, percebeu que o chatbot oferece orientações mais personalizadas do que as buscas tradicionais na internet, que frequentemente levam a informações alarmantes. Ela descreve a experiência como ‘quase como conversar com o seu médico’. Em uma ocasião, o ChatGPT recomendou que ela procurasse um farmacêutico após ela relatar sintomas de infecção urinária, resultando em uma receita de antibiótico, prática permitida no Reino Unido.
No entanto, nem todas as interações foram positivas. Após uma queda que a fez sentir uma dor intensa, Abi consultou o ChatGPT, que sugeriu que ela havia perfurado um órgão e deveria ir ao pronto atendimento imediatamente. Após três horas de espera, ela descobriu que não era nada grave e que a IA havia ‘certamente entendido errado’.
A popularidade dos chatbots de IA para questões de saúde está crescendo, mas a qualidade das informações fornecidas gera preocupações. O diretor médico da Inglaterra, Chris Whitty, alertou que as respostas da IA muitas vezes não são suficientemente boas e podem ser apresentadas com convicção, mas erradas.
Pesquisadores da Universidade de Oxford conduziram um estudo que revelou que, em cenários onde os chatbots receberam informações completas, a precisão foi de 95%. Contudo, quando 1,3 mil pessoas interagiram com os chatbots para diagnósticos, a precisão caiu para 35%, indicando que a interação humana pode comprometer a qualidade das respostas.
A clínica geral Margaret McCartney, de Glasgow, destacou que existe uma diferença entre a interação com chatbots e a pesquisa tradicional na internet, onde os usuários podem avaliar a confiabilidade das informações. Além disso, um estudo do Instituto Lundquist de Inovação Biomédica revelou que mais da metade das respostas dos chatbots testados apresentaram problemas, incluindo desinformação sobre tratamentos de câncer.
Nicholas Tiller, pesquisador, enfatizou que os chatbots transmitem um senso de credibilidade, o que pode levar os usuários a confiar nas respostas sem questionar. A OpenAI, empresa responsável pelo ChatGPT, reconheceu a importância de fornecer informações de saúde confiáveis e seguras, mas alertou que o chatbot deve ser utilizado para informação e educação, não como substituto da assistência médica profissional.
Abi continua a usar chatbots de IA, mas recomenda cautela e ressalta que as respostas devem ser analisadas criticamente, pois ‘ele entende errado as coisas’.