Elon Musk, empresário e CEO da plataforma X, negou ter conhecimento de qualquer imagem de menor de idade produzida pela ferramenta Grok, em uma postagem realizada nesta quarta-feira, 14. A declaração acontece após uma onda de críticas e denúncias sobre a nova funcionalidade que permite a criação de registros sexualizados de crianças e adultos. Como resultado, o Grok foi banido em países como Indonésia e Malásia, enquanto no Brasil, o Instituto de Defesa do Consumidor protocolou um pedido para suspender a ferramenta.
O lançamento do modo “Spicy” pelo Grok visou aumentar o engajamento na plataforma, mas ocorreu sem a implementação de medidas adequadas de controle. Essa falta de salvaguardas resultou em denúncias e reclamações de usuários, além de chamar a atenção de autoridades policiais e da imprensa internacional. Musk, no entanto, defendeu a ferramenta, alegando que a IA não atua por conta própria, mas apenas executa comandos dados pelos usuários, o que levanta questões sobre a responsabilidade das empresas de tecnologia.
O episódio revela uma crescente preocupação sobre a governança das plataformas digitais e a responsabilidade das empresas em relação ao conteúdo gerado. Especialistas destacam que a alegação de neutralidade técnica ignora decisões empresariais que moldam a ferramenta e seus limites. Com o aumento das demandas por regulamentações mais rigorosas sobre a inteligência artificial, especialmente para proteger crianças, o argumento da responsabilidade exclusiva do usuário pode enfrentar dificuldades em tribunais, evidenciando a necessidade de novas legislações digitais.