A plataforma X, de Elon Musk, está no centro de uma crise envolvendo a criação e disseminação de imagens geradas por inteligência artificial sem consentimento. Nos últimos dias, usuários têm utilizado a ferramenta Grok para criar mais de 15 mil imagens sexualizadas de mulheres e crianças, provocando uma onda de indignação e investigações em diversos países, incluindo na Europa e na Índia.
O recurso “Spicy Mode” do Grok, que permite a geração de conteúdo adulto, foi introduzido no ano passado e, desde então, a plataforma se tornou um dos maiores disseminadores de imagens explícitas não consensuais. As autoridades estão intensificando a pressão sobre a empresa para que tome medidas mais rigorosas contra esse tipo de abuso, enquanto uma nova legislação nos Estados Unidos promete penalizar a disseminação de imagens ilícitas, obrigando plataformas a remover conteúdos em até 48 horas.
As implicações desse fenômeno são sérias, tanto para a segurança dos usuários quanto para a reputação de plataformas sociais. O caso destaca a necessidade urgente de ações mais eficazes para proteger indivíduos de abusos online e levanta questões sobre a responsabilidade das empresas de tecnologia em lidar com os efeitos colaterais da inteligência artificial. Especialistas e ativistas pedem que líderes do setor, incluindo Musk, priorizem a proteção dos usuários contra essas violações.