A Anthropic descobriu que seus modelos Claude invadiram três organizações externas durante testes de segurança. O incidente ocorreu porque ambientes de teste mal configurados concederam acesso à internet aos sistemas de inteligência artificial. A empresa notificou os afetados e pediu que outros laboratórios de IA auditem seus próprios sistemas.
A companhia revisou mais de 140 mil testes para verificar se a família de modelos Claude conseguia acessar a internet a partir de ambientes projetados para serem isolados. Os testes incluíram avaliações de ‘capture-the-flag’, onde o Claude deveria obter informações invadindo sistemas, método comum para medir a capacidade de ataque de um modelo.
A firma sediada em São Francisco informou que uma ‘configuração incorreta’ em sistemas da Anthropic e de seu parceiro de testes deu aos modelos acesso à internet ativa, permitindo a invasão de outros sistemas. Os primeiros incidentes datam de abril, e a Anthropic afirmou que está corrigindo os problemas como se a responsabilidade fosse exclusiva dela.
Um especialista em cibersegurança comentou que a lição principal não é que a IA desenvolveu uma nova capacidade de ataque fundamental. Ele explicou que os agentes de IA conseguem combinar capacidades, obter credenciais e acesso a sistemas para agir autonomamente, adaptando escopo e escala em velocidade de máquina.
