Pesquisadores da China e Singapura demonstraram que sons inaudíveis inseridos em vídeos ou podcasts podem enganar assistentes de voz por inteligência artificial e comprometer dados pessoais.
Um grupo de pesquisadores criou um tipo de áudio adversarial, imperceptível ao ouvido humano, capaz de manipular modelos de voz por IA para executar comandos não autorizados. Essa técnica pode ser inserida em áudios comuns, como músicas ou filmes, que usuários toquem inadvertidamente.
A técnica exige acesso total aos pesos do modelo de IA, limitando o ataque a sistemas open source. No entanto, muitos produtos comerciais, como os da Microsoft e Mistral, utilizam esses modelos, tornando-os vulneráveis.
A Microsoft afirmou que valoriza o avanço da pesquisa e oferece ferramentas para que desenvolvedores implementem camadas extras de proteção para os usuários.
