A Anthropic anunciou que seu chatbot Claude passará a inserir marcas d’água em textos que gera. A alteração ocorre em resposta ao Ato de Inteligência Artificial da União Europeia, que exige que empresas de IA marquem conteúdo criado ou editado por seus sistemas.
O sistema funciona com modificações sutis nas escolhas de palavras da IA. Essas alterações são imperceptíveis ao olho humano, mas formam um padrão detectável por ferramentas específicas. De acordo com a empresa, a marca indica que o Claude processou o texto, e não necessariamente que ele foi o autor original.
A notícia gerou reação na imprensa, com usuários cancelando assinaturas do serviço. Um desenvolvedor autônomo, residente na República Tcheca, alegou que o rótulo de IA em códigos enviados a clientes poderia gerar problemas contratuais. Um consultor de IA, da Geórgia, também cancelou a assinatura, preocupado que a marca aparecesse em material que ele mesmo havia escrito antes de usar o chatbot para edições.
Outros laboratórios de IA adotam métodos similares. O Google usa a tecnologia SynthID para marcar conteúdo gerado. Além disso, um pesquisador relatou que o Claude, em certas ocasiões, atribuiu integralmente ou como coautoria seu trabalho, mesmo quando apenas auxiliado na fase de testes.
Apesar das preocupações, a marca d’água pode auxiliar a IA a reduzir o treinamento com textos gerados por outras IAs. A imprensa internacional informou que o Google também anunciou a possibilidade de usuários removerem a marca d’água visível de imagens, vídeos e músicas geradas por seus modelos.
