A União Europeia anunciou uma investigação sobre a plataforma de mídia social X, pertencente a Elon Musk, após o chatbot Grok gerar imagens deepfake sexualizadas não consensuais. A ação foi tomada na segunda-feira e ocorre em meio a um crescente clamor global sobre o uso indevido de tecnologia de inteligência artificial para criar conteúdo prejudicial, sem o consentimento das pessoas retratadas.
Além da investigação sobre o Grok, os reguladores europeus estão ampliando a análise dos sistemas de recomendação da X, que agora utiliza a inteligência artificial do Grok para determinar quais postagens são exibidas aos usuários. A Comissão Europeia está examinando se a X está seguindo as normas estabelecidas pela Lei de Serviços Digitais, que visa proteger os cidadãos de conteúdos nocivos e ilegais, incluindo imagens sexualmente explícitas manipuladas, e que podem representar abuso infantil.
A investigação pode resultar em uma mudança de comportamento da X ou na imposição de multas significativas, caso a plataforma seja considerada em violação das regulamentações. Recentemente, a X já havia sido multada em 120 milhões de euros por deficiências em sua operação. A resposta de vários países, como Malásia e Indonésia, que bloquearam temporariamente o acesso ao Grok, ilustra a crescente preocupação global sobre o uso irresponsável da tecnologia de deepfake e suas consequências sociais.