Três adolescentes entraram com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial de Elon Musk, nesta segunda-feira (17). Elas acusam o chatbot Grok de gerar imagens pornográficas a partir de fotos reais, segundo suas advogadas.
A ação está relacionada à proliferação de deepfakes de mulheres e crianças nuas, que ocorreu no fim do ano passado. A publicação dessas imagens em redes sociais gerou indignação mundial e levou a investigações em vários países, incluindo a Califórnia.
O processo menciona um caso de uma pessoa já detida que utilizou o Grok para transformar fotos comuns das jovens, retiradas de redes sociais ou outras fontes, em imagens hiper-realistas sexualizadas. As montagens circularam no X, Discord e Telegram, e depois foram para a dark web como moeda de troca para conteúdos de pornografia infantil.
“‘Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível’, disse a mãe de uma das adolescentes, do Tennessee.”
Uma das autoras da ação relata ter pesadelos recorrentes, enquanto outra precisa de remédios para dormir e tem medo de comparecer à própria cerimônia de formatura.
As advogadas afirmam que a xAI ‘projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos’, sem implementar as proteções utilizadas por outros grandes atores da IA contra a pornografia infantil.
Um estudo do Center for Countering Digital Hate revelou que o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, das quais 23.000 representavam menores de idade. Em resposta ao escândalo, a xAI restringiu em janeiro a geração de imagens pelo Grok exclusivamente aos assinantes.