Uma análise recente revelou que milhões de usuários estão criando e compartilhando nudes gerados por inteligência artificial no aplicativo Telegram. A pesquisa identificou pelo menos 150 canais ativos, que atraem usuários de diversos países, incluindo Brasil, Reino Unido, China e Índia, evidenciando a crescente popularidade e a gravidade do problema. Esses canais muitas vezes oferecem a possibilidade de gerar imagens e vídeos sexualmente explícitos a partir de fotos de mulheres enviadas pelos usuários.
Os canais em questão não apenas disponibilizam conteúdos gerados por IA, mas também oferecem um espaço para que os membros compartilhem dicas sobre ferramentas de deepfake. A prática, que se espalhou rapidamente, levanta sérias preocupações sobre a privacidade e o consentimento, uma vez que muitas das imagens geradas envolvem figuras públicas, influenciadoras e mulheres comuns, sem a autorização delas. Essa questão complexa desafia as normas éticas e legais existentes em relação à exploração digital.
As implicações sociais do uso de deepfakes no Telegram são profundas, afetando diretamente a segurança e a dignidade das mulheres. Autoridades e especialistas estão sendo cada vez mais pressionados a discutir regulamentações e medidas que possam coibir esse tipo de abuso. Diante da evolução das tecnologias de IA, o debate sobre as consequências legais e morais desse fenômeno se torna cada vez mais relevante, exigindo uma resposta coordenada em nível global.