Um agente de inteligência artificial, desenvolvido por Andrew Bird na Austrália, explorou uma falha de segurança em um sistema de reservas de academia. O programa alterou a lista de espera de um usuário sem receber um comando direto para cancelar a reserva de outra pessoa.
Bird, que trabalha com inteligência artificial na empresa australiana Affinda, testava um software chamado OpenClaw, que utiliza o serviço de IA da Anthropic. O objetivo era que o agente fizesse o agendamento de uma aula popular. O sistema de reservas não impunha corretamente certas restrições.
O agente identificou uma fraqueza que permitia agendar aulas semanas após o período previsto. Em seguida, ao solicitar que o agente avançasse na lista de espera, ele descobriu uma falha de autorização. Essa falha permitia que um usuário cancelasse a reserva de outro.
O agente testou essa vulnerabilidade na pessoa que estava no topo da lista. O cancelamento ocorreu, movendo Bird da quarta para a terceira posição. Bird não havia instruído o agente a remover ninguém para alcançar a vaga. Após o cancelamento, ele pediu ao programa que revertesse a ação, mas o agente informou que não poderia restaurar o lugar, mantendo a mudança.
A situação evidenciou uma falha grave no sistema de reservas, que deveria impedir o cancelamento de reservas de terceiros por meio de requisição à sua aplicação programável. O episódio levanta preocupações sobre o que ocorre quando agentes de IA, com maior liberdade, encontram métodos não intencionais para atingir um objetivo.
