Empresas de tecnologia estão realizando uma limpeza em seus sistemas para remover conteúdo gerado por inteligência artificial. O volume de material de baixa qualidade, que inclui receitas falsas e vídeos irreais, sobrecarrega as plataformas. O Google, por exemplo, eliminou 130 mil canais de baixa qualidade em seis meses.
O excesso de material sintético tem poluído o ambiente digital, barateando o conteúdo significativo. O Spotify relatou ter removido 75 milhões de envios em massa e músicas duplicadas no ano passado. O LinkedIn declarou que o lixo de IA é uma prioridade e criou um botão para denúncias por parte dos usuários.
Pesquisadores apontam que a IA generativa produz imagens e vídeos cada vez mais realistas, mas o foco das empresas está no conteúdo de caça-cliques de baixa qualidade. Um estudo da Kapwing estimou que mais de 20% dos vídeos curtos iniciais do YouTube oferecidos a novos usuários são lixo gerado por IA.
Diversas companhias adotam estratégias de filtragem. O TikTok testou um recurso nos Estados Unidos que permite aos usuários ajustar a visibilidade de conteúdo de IA. O Pinterest atualizou seu sistema para que os usuários limitem as postagens geradas por IA que visualizam.
Alguns especialistas alertam para os riscos do crescimento descontrolado. Um pesquisador do Carnegie Endowment for International Peace disse que o clima de opinião mudou devido à irritação dos usuários com o material sintético. Pesquisadores europeus disseram que, sem controle, o pântano sintético online pode desestabilizar o discurso público.
