A plataforma X, de Elon Musk, anunciou nesta quarta-feira (14) medidas para impedir que seu chatbot de inteligência artificial, Grok, transforme fotos de pessoas em imagens sexualizadas. Essa decisão surge após críticas em todo o mundo sobre o uso do sistema para gerar conteúdo envolvendo mulheres e crianças. A nova política será aplicada em jurisdições onde esse tipo de conteúdo é considerado ilegal.
As diretrizes estabelecem que todos os usuários do Grok, incluindo assinantes do serviço pago, não poderão editar imagens para incluir roupas íntimas ou biquínis. A medida é uma resposta a uma investigação em andamento, conduzida pelo procurador-geral da Califórnia, que questiona se a xAI violou leis ao promover a criação de deepfakes não consensuais. O procurador enfatizou a necessidade de uma abordagem rígida contra a disseminação de imagens íntimas não autorizadas.
As reações a essa situação têm sido intensas, com países como Indonésia e Malásia bloqueando o acesso ao Grok. Enquanto isso, a comissária francesa para a infância encaminhou imagens geradas pelo sistema a autoridades competentes na Europa. As implicações dessas restrições podem afetar a forma como a IA é utilizada nas redes sociais, levantando questões sobre segurança e privacidade na era digital.