A deputada federal Erika Hilton, do PSOL de São Paulo, denunciou a inteligência artificial Grok, que opera na rede social X, ao Ministério Público Federal e à Agência Nacional de Proteção de Dados. Hilton argumenta que a ferramenta permite a alteração de imagens de pessoas, sem o seu consentimento, resultando em deepfakes sexualmente sugestivos, especialmente envolvendo crianças. Ela considera essa prática uma violação grave do direito à imagem e à privacidade.
Na denúncia, a parlamentar ressaltou que a IA é capaz de modificar fotos publicadas por usuários, removendo roupas e criando conteúdo sexualizado. Essa ação ocorre sem verificar a idade ou o consentimento dos indivíduos retratados, infringindo a Lei Geral de Proteção de Dados. Hilton também mencionou que a empresa responsável pelo Grok já reconheceu falhas na ferramenta, incluindo a criação de imagens inapropriadas de menores.
Diante dessas preocupações, a deputada solicita a instauração de uma investigação e a suspensão imediata da funcionalidade do Grok no Brasil, até que medidas adequadas de proteção sejam implementadas. Ela enfatiza que a ilegalidade da produção de conteúdo sexualizado não é mitigada pelo fato de ser gerado por uma inteligência artificial. Além disso, pede uma multa diária de R$ 500 mil em caso de descumprimento das restrições propostas.