A XAI, companhia de inteligência artificial fundada por Elon Musk, impôs restrições à geração de imagens pela ferramenta Grok, após uma onda de críticas relacionadas a conteúdos sexualizados. Desde 9 de janeiro de 2026, usuários da plataforma X necessitarão de uma assinatura paga para criar e editar imagens, enquanto o aplicativo Grok independente ainda permite o uso gratuito. A decisão surge após denúncias de que a ferramenta estava sendo utilizada para produzir imagens de mulheres e crianças nuas, muitas vezes sem consentimento.
Nos últimos dias, o Grok se destacou por gerar imagens sexualizadas, principalmente de mulheres em biquínis, o que levou a uma série de reações adversas. A utilização inadequada da ferramenta levantou preocupações sobre a linha entre conteúdo erótico e ilegal, levando especialistas em segurança infantil a exigir ações mais rigorosas. A porta-voz da XAI não comentou sobre as críticas, enquanto Musk afirmou que usuários que criam conteúdo ilegal enfrentariam as mesmas consequências que quem publica esse material na plataforma.
A medida de restrição não foi considerada suficiente por autoridades britânicas, que argumentam que a mudança apenas transforma um recurso que possibilita a criação de imagens ilegais em um serviço premium. Críticos ressaltam que isso não resolve o problema e que a X deve agir de maneira mais eficaz. A União Europeia também está monitorando a situação, ordenando a retenção de documentos internos da empresa até o final do ano, em resposta a preocupações sobre a legalidade do conteúdo disseminado.