No dia 9 de janeiro de 2026, a plataforma Grok, desenvolvida por Elon Musk, implementou restrições em sua função que permite a remoção de roupas em fotos, agora acessível apenas para assinantes. Essa decisão surge em resposta a uma crescente onda de deepfakes envolvendo imagens de mulheres, muitas delas menores, que foram geradas sem consentimento, provocando preocupações globais em torno da privacidade e segurança online.
A nova ferramenta, que havia sido disponibilizada de forma irrestrita no início da semana, foi criticada por sua capacidade de gerar imagens sexualmente sugestivas, embora sem nudez explícita. Dados indicam que, em um curto período, a plataforma registrou um pico alarmante de 6.700 imagens geradas por hora, com mais de 50% retratando mulheres em roupas mínimas. Em resposta, usuárias do X relataram campanhas de humilhação, onde suas imagens foram manipuladas de forma cruel.
Com o aumento dos alertas sobre o uso indevido da tecnologia, a União Europeia iniciou um processo contra o Grok, exigindo que a empresa preserve todos os documentos relacionados à ferramenta até 2026. Essa ação segue uma multa anterior ao X por descumprimento de regulamentos de serviços digitais, destacando a crescente pressão regulatória sobre plataformas de tecnologia e a necessidade de garantir a segurança dos usuários.