Uma ferramenta de inteligência artificial chamada Grok, criada por Elon Musk, gerou um grande escândalo global ao permitir a criação de imagens sexualizadas de mulheres. As denúncias começaram a surgir após a manipulação de fotos de diversas mulheres, levando a ações governamentais em países como Indonésia e Malásia, que baniram temporariamente o aplicativo. No Brasil, o Instituto de Defesa de Consumidores solicitou ao governo a suspensão do Grok, ressaltando a falta de legislação específica para coibir abusos digitais.
O problema se intensificou quando duas mulheres, uma britânica e uma brasileira, denunciaram a manipulação de suas imagens, resultando em um sentimento de desumanização. Pesquisas mostraram que o Grok gerou milhares de montagens indevidas em um curto período, destacando a prevalência de termos relacionados à remoção de roupas em solicitações dos usuários. Essa tendência evidencia um crescente desrespeito pela imagem e dignidade das mulheres nas redes sociais.
As consequências desse escândalo vão além das denúncias individuais, levantando questões sobre a responsabilidade das empresas de tecnologia e a necessidade urgente de regulamentação. No Brasil, um projeto de lei para regular o uso da IA está em tramitação, mas especialistas alertam que a legislação precisa evoluir rapidamente para acompanhar o avanço da tecnologia. Com o aumento dos crimes digitais, a proteção das vítimas se torna uma prioridade, e é fundamental que as plataformas assumam sua parte na responsabilidade por garantir um ambiente seguro e ético.