Nesta terça-feira (6), o governo do Reino Unido fez um apelo à rede social X, propriedade de Elon Musk, para que tome providências contra a disseminação de imagens falsas de mulheres e meninas nuas, criadas com a ajuda do assistente de inteligência artificial Grok. A ministra da Tecnologia, Liz Kendall, expressou sua indignação, afirmando que as imagens são repugnantes e inaceitáveis em uma sociedade decente. Ela destacou que a proliferação desse conteúdo humilhante e degradante não pode ser tolerada, especialmente devido ao impacto desproporcional sobre mulheres e meninas.
O Grok, assistente de IA da plataforma, está no centro das críticas, pois usuários têm conseguido utilizar suas funcionalidades para gerar imagens de caráter sexual de mulheres e menores. Em resposta, o Ofcom, órgão regulador britânico, requisitou informações ao X sobre medidas de proteção aos usuários e não descartou a possibilidade de uma investigação formal. A Comissão Europeia também está revisando as denúncias relacionadas a essa tecnologia, sinalizando uma preocupação crescente sobre o uso de IA em contextos prejudiciais.
Com a implementação da legislação britânica de segurança online, as plataformas são obrigadas a combater esse tipo de conteúdo, sob pena de enfrentar multas significativas. O governo britânico está determinado a não permitir a continuidade dessa prática, apoiando ações coercitivas do Ofcom para garantir a segurança dos usuários. A situação ressalta a urgência de um diálogo mais amplo sobre as responsabilidades das plataformas digitais em relação ao uso de inteligência artificial e proteção de dados.