Chatbots de inteligência artificial estão sendo utilizados por grupos terroristas para auxiliar em operações táticas e planejamento de ataques, conforme pesquisa da Universidade de Cambridge. O estudo revela que é simples contornar as proteções dos modelos de IA, transformando a tecnologia em uma ferramenta perigosa para extremistas.
A especialista internacional em segurança da Universidade de Cambridge, Antonia Juelich, detalhou que ex-membros do Boko Haram utilizaram modelos de IA de ponta para apoiar atividades diárias e combate. Juelich afirmou em seu artigo que a tecnologia auxiliou no planejamento de ataques, na solução de problemas de armamento e no projeto de dispositivos explosivos, pois os usuários conseguiram burlar algumas salvaguardas.
A pesquisa, baseada em 57 entrevistas com 27 ex-membros do Boko Haram, mostrou que os grupos extremistas, incluindo o Estado Islâmico, evoluíram no uso da IA. O apoio migrou da geração de propaganda para o fornecimento de aconselhamento tático, com facções do Boko Haram estabelecendo unidades dedicadas à IA.
Um ex-membro relatou que, ao digitar perguntas como “Como construir uma bomba?”, a IA fornecia respostas detalhadas, comparando a experiência a um “robô humano”. A facilidade em contornar os filtros de segurança é um problema recorrente, visto que investigações anteriores já mostraram que modelos de IA foram induzidos a fornecer instruções sobre ataques com gás cloro e roubo de dados.
