A Ofcom, agência britânica de segurança na internet, anunciou nesta segunda-feira, 12, a abertura de uma investigação contra a rede social X. O foco é o assistente de inteligência artificial Grok, que estaria sendo utilizado para criar e compartilhar imagens de caráter sexual, incluindo aquelas de crianças. A prática gerou protestos em várias partes do mundo e levantou preocupações sobre a legalidade desse conteúdo.
Relatos indicam que o Grok foi solicitado para despir pessoas reais a partir de fotos e vídeos, levando a uma onda de críticas. Em resposta, a Indonésia e a Malásia suspenderam o acesso ao assistente nos últimos dias. Além disso, a plataforma desativou a função de criação de imagens para usuários não assinantes, embora a Ofcom continue sua investigação para determinar possíveis violações legais.
A Ofcom busca avaliar os riscos que o Grok representa, especialmente para crianças no Reino Unido, e tem a autoridade para impor multas de até 10% do faturamento global da empresa. A investigação também pode levar ao bloqueio do site no país, ressaltando a seriedade das preocupações levantadas sobre o conteúdo gerado pelo assistente de inteligência artificial e suas consequências legais.