A plataforma X, sob a liderança de Elon Musk, anunciou em 14 de janeiro medidas para impedir que seu chatbot de inteligência artificial Grok transforme fotos de pessoas reais em imagens sexualizadas. A decisão surge em resposta a críticas internacionais, especialmente após a investigação iniciada pelo procurador-geral da Califórnia, que visa a produção de deepfakes não consentidos envolvendo mulheres e crianças.
As novas diretrizes incluem a restrição geográfica da capacidade de usuários do Grok de criar imagens de pessoas em roupas íntimas ou biquínis nas jurisdições que consideram essas ações ilegais. A equipe de segurança do X afirmou que implementou medidas tecnológicas para limitar a edição de imagens de pessoas reais, abrangendo todos os usuários, incluindo assinantes do serviço pago. A indignação pública aumentou, levando a uma condenação do primeiro-ministro britânico e investigações em outros países.
As implicações dessas medidas são significativas, com potencial para impactar a operação do Grok e a percepção pública sobre a plataforma X. O regulador de mídia britânico, Ofcom, também abriu uma investigação sobre possíveis violações da legislação relacionada a imagens sexualizadas. Com o aumento da pressão internacional, a continuidade da geração desse tipo de conteúdo por IA está sob intenso escrutínio, refletindo uma necessidade urgente de proteção contra abusos digitais.