Pesquisadores da Global Network on Extremism and Technology (GNET) argumentam que vídeos gerados por inteligência artificial disseminam conteúdo extremista. O estudo aponta que esses vídeos, muitas vezes simples, podem levar a um aumento da fascinação por violência em jovens.
Os analistas do GNET observaram que um número crescente de vídeos desses formatos, que apresentam personagens de frutas, evolui para cenas de violência extrema. Tais vídeos exibem atos de tortura e mutilação, além de retratar personagens ligados a grupos ideológicos específicos.
Os autores afirmam que esses vídeos baseados em violência reforçam a atração por atos de violência. Isso permite que o que chamam de ‘hino online à violência’ ganhe espaço entre jovens no ambiente digital.
O tipo de conteúdo pode fundamentar o consumo de material audiovisual violento posterior, colocando usuários jovens no caminho da radicalização online. A análise do GNET, que é braço de pesquisa do Global Internet Forum to Counter Terrorism, é descrita como superficial.
