Na quinta-feira, 15 de janeiro de 2026, as Filipinas se tornaram o terceiro país a proibir o chatbot Grok, desenvolvido pela xAI, de Elon Musk, após preocupações com a geração de imagens sexualizadas. A proibição segue ações similares da Malásia e Indonésia, que também tomaram medidas contra o uso da tecnologia para criar conteúdos inapropriados a partir de fotos de internautas.
O Grok é criticado por permitir a criação de deepfakes de forma acessível, o que resultou em uma análise alarmante que revelou que a maioria das imagens geradas mostrava mulheres e, em alguns casos, indivíduos que aparentavam ser menores de idade. As autoridades britânicas e francesas estão atentas ao cumprimento das leis locais, enquanto o procurador-geral da Califórnia investiga a xAI por facilitar a produção de montagens íntimas não consentidas, apontando para a necessidade urgente de regulamentação mais rigorosa sobre o uso de inteligência artificial.
Com a pressão crescente de grupos de defesa, a xAI anunciou que vai limitar as opções de criação de imagens em países onde a prática é proibida. O debate sobre a ética e a responsabilidade no uso de inteligência artificial está se intensificando, refletindo uma preocupação global com a segurança e a privacidade online. As ações tomadas pelas Filipinas e outros países podem servir como um modelo para regulamentações futuras nesse campo emergente da tecnologia.