Uma nova ferramenta de detecção de conteúdo gerado por inteligência artificial da Meta não conseguiu identificar algumas imagens criadas pelo seu modelo Muse Image após elas serem recortadas, segundo análise da imprensa internacional. O teste revelou que 55% das imagens originais não foram reconhecidas após sofrerem recortes, evidenciando desafios na verificação de conteúdo sintético.
A análise, que avaliou 40 imagens geradas pelo Muse Image, confirmou que a ferramenta identificou corretamente todas as versões originais. Contudo, ela deixou de reconhecer 55% dessas imagens após serem reduzidas a cerca de um terço ou metade do tamanho inicial. A Meta informa que a versão preliminar do recurso utiliza um sistema de marca d’água invisível, denominado Content Seal, incorporado a todo o material produzido.
A empresa declarou que a marca d’água foi projetada para resistir a edições comuns, mas explicou que o sinal pode ser perdido em recortes mais severos. Concorrentes como Google e OpenAI já alertaram que suas próprias ferramentas de detecção possuem limitações. Em março, o Conselho de Supervisão da Meta solicitou que a companhia intensificasse os esforços contra a proliferação de conteúdo enganoso gerado por IA.
Pesquisadores comentaram sobre as limitações da tecnologia. Um professor de ciência da computação afirmou que métodos baseados em marcas d’água são eficazes enquanto o sinal permanece intacto, mas podem perder eficácia com modificações como recortes ou compressão intensa. Outra pesquisadora de IA considerou a tecnologia promissora, mas não infalível, apontando que qualquer avanço é significativo em relação à ausência de mecanismos de identificação.
