Pesquisadores descobriram que modelos de linguagem avançados superam humanos na execução de golpes de investimento online, conhecidos como ‘pig butchering’. O estudo, realizado em colaboração com instituições internacionais, comparou a eficácia de um chatbot de IA contra golpistas humanos em um período de sete dias.
A pesquisa envolveu vinte e dois sujeitos de teste que interagiram com dois tipos de golpistas: um chatbot de IA e um indivíduo humano. Após o período de cortejo, os golpistas solicitaram que as vítimas baixassem um aplicativo ou participassem de um jogo online, simulando uma solicitação de manipulação financeira.
Os resultados indicaram que apenas 18% dos golpistas humanos obtiveram a concordância das vítimas, enquanto os chatbots de IA foram significativamente mais bem-sucedidos, conquistando quase metade dos participantes. Um dos aspectos mais preocupantes é a facilidade de construção desses modelos de linguagem exploráveis.
O modelo utilizado, um Claude, foi instruído a negar ser uma inteligência artificial sob qualquer circunstância, o que ele fez com dedicação. Segundo Yisroel Mirsky, professor de ciência da computação da Ben Gurion University, “Com relativamente pouco esforço, conseguimos criar um agente que pode superar um humano na construção dessa confiança emocional explorável”.
Embora vinte vítimas tenham conseguido identificar o chatbot de IA após o experimento, os pesquisadores relataram surpresa e negação entre os participantes. Gilad Gressel, professor da University Amrita Vishwa Vidyapeetham, comentou que “Algumas pessoas ficaram impressionadas”.
