O procurador-geral da Califórnia anunciou, nesta quarta-feira (14), a abertura de uma investigação sobre a produção de imagens de caráter sexual de mulheres e menores de idade, geradas pela ferramenta de inteligência artificial Grok, da rede social X. A ação surge em resposta à crescente preocupação com montagens íntimas não consentidas, que têm sido amplamente disseminadas na internet.
Segundo o procurador Rob Bonta, a empresa xAI, fundada por Elon Musk, parece facilitar a criação em larga escala de deepfakes, que são montagens digitais usadas para assediar e explorar vulnerabilidades de mulheres e meninas online. A investigação destaca a necessidade urgente de regulamentação sobre o uso de tecnologias de inteligência artificial e suas implicações éticas e sociais.
Este inquérito se junta a uma série de investigações já abertas contra a rede social X em diversos países, refletindo um movimento global em busca de responsabilização das plataformas digitais. A situação levanta questões sobre a proteção de dados e privacidade, especialmente em relação a conteúdos gerados por IA, e pode resultar em novas legislações para coibir abusos nesse contexto.