A XAI, companhia de inteligência artificial de Elon Musk, restringiu a geração de imagens do Grok para a maioria dos usuários da plataforma X, após reações negativas por conta do uso da ferramenta para criar conteúdo sexualizado. A partir de agora, será necessária uma assinatura paga para gerar e editar imagens, um recurso que antes estava disponível gratuitamente, com limites diários.
As críticas se intensificaram nas últimas semanas, quando usuários começaram a solicitar edições de fotos, especialmente de mulheres, para que aparecessem em biquínis ou em situações sexualizadas. A situação chamou a atenção de especialistas em segurança infantil, que alertaram sobre o uso da ferramenta para criar material de abuso sexual infantil, levando a X a enfrentar potenciais consequências legais por não agir de forma rápida e eficaz para remover tal conteúdo.
A medida foi considerada insuficiente pelo gabinete do primeiro-ministro britânico, com críticas de que a solução simplesmente transformou um recurso problemático em um serviço premium. A Internet Watch Foundation também relatou encontrar imagens geradas pelo Grok que violam a lei, e a União Europeia já tomou providências para assegurar que a X mantenha documentos relacionados ao caso, evidenciando a gravidade da situação.