A deputada federal Erika Hilton, do PSOL de São Paulo, apresentou uma denúncia formal contra a ferramenta de inteligência artificial Grok, da rede social X, alegando que ela infringe direitos de imagem ao editar fotos sem o consentimento dos indivíduos retratados. Em sua queixa, Hilton destaca que a IA é capaz de gerar deepfakes sexualizados, alterando imagens de mulheres e crianças, o que configura uma grave violação dos direitos de proteção e imagem pessoal.
A parlamentar enfatiza que a falta de mecanismos para verificar o consentimento e a idade dos usuários que solicitam essas edições representa um risco significativo, especialmente considerando a legislação brasileira, como a Lei Geral de Proteção de Dados. Ela menciona um incidente recente em que o Grok gerou imagens sexualizadas de menores, levando a empresa a emitir um pedido de desculpas, o que evidencia a necessidade urgente de regulamentação e proteção adequadas contra abusos dessa tecnologia.
Hilton solicita a suspensão das operações do Grok no Brasil até que medidas de proteção sejam implementadas, além da instauração de uma investigação sobre as práticas da rede social X. A deputada argumenta que a natureza artificial do conteúdo não isenta a ilegalidade da ação, destacando que a pornografia infantil, independentemente da forma de produção, deve ser tratada com extrema seriedade e rigor legal.