Pesquisadores de segurança alertaram que criminosos podem usar falhas em modelos de linguagem com inteligência artificial para instalar malware em computadores de usuários. O ataque, denominado “adversarial hallucination squatting”, explora a tendência dos assistentes de código de sugerir pacotes de terceiros que não existem.
A vulnerabilidade foi descoberta por pesquisadores da Universidade de Tel Aviv e da Intuit. Eles constataram que o cenário pode ser explorado em ferramentas comuns de codificação com IA, como Cursor e Copilot da Microsoft, com taxas de incidência entre 85% e 100%, dependendo da tarefa de engenharia.
O método de ataque consiste em identificar nomes de pacotes que a IA pode inventar, registrar esses nomes como repositórios reais e inserir o malware. O pacote malicioso aguarda o momento em que o assistente de IA o acessa e o clona na máquina do proprietário.
Como o processo é automatizado, a vítima pode não saber que o malware foi baixado até que ele comece a executar código. A falha afeta uma vasta gama de assistentes de IA, incluindo Gemini e OpenClaw, pois o problema reside na confiança excessiva dos assistentes em gerar informações falsas.
