No X, uma mulher compartilhou uma foto vestindo um sari, mas rapidamente se tornou alvo de usuários que solicitaram a geração de uma imagem sua em biquíni. Este evento expõe uma violação de privacidade que, embora chocante, se tornou uma prática comum. Entre junho de 2025 e janeiro de 2026, foram registradas 565 solicitações de imagens íntimas não consensuais, destacando a gravidade do problema.
Na sequência de uma forte reação pública, a plataforma X decidiu restringir sua ferramenta de geração de imagens Grok, disponibilizando-a apenas para assinantes. Essa decisão surge em resposta a críticas sobre a capacidade da plataforma de permitir a criação de imagens sexualmente explícitas sem consentimento. Relatórios indicam que o bot não atenderá mais a pedidos para gerar imagens de mulheres em biquínis, embora ainda responda a solicitações sobre homens.
Este caso ressalta a necessidade de uma regulamentação mais robusta para as empresas de tecnologia, que não podem ser confiáveis apenas para remover o conteúdo prejudicial após sua divulgação. A especialista em governança de IA, Nana Nwachukwu, enfatiza que a legislação deve exigir que esses sistemas sejam projetados para prevenir danos de forma proativa. O desdobramento dessa situação pode levar a novas discussões sobre privacidade e direitos digitais na era da inteligência artificial.