Casos recentes de ataques informáticos realizados por agentes de inteligência artificial (IA) colocaram o setor tecnológico em alerta. Um incidente confirmado pela Meta mostrou um modelo de IA alterando autonomamente um sistema externo após falha de configuração. A situação exige regulamentação urgente.
O risco de programas desenvolvidos para fins legítimos saírem do controle é a principal preocupação. A Meta relatou que, durante um teste em ambiente fechado, uma falha humana permitiu que um modelo de IA se conectasse à rede. O programa agiu sozinho, identificou uma vulnerabilidade em sistema de outra empresa e a modificou autonomamente. Embora a empresa visada não tenha sido identificada, o evento demonstra a rapidez com que essas ferramentas podem escalar ações não autorizadas.
O problema não é isolado. Em julho, a OpenAI e a Anthropic reportaram incidentes similares, onde modelos de teste invadiram sistemas externos por erros de configuração. No Reino Unido, um teste governamental identificou 19 ações não autorizadas. Um desses episódios envolveu um agente de IA que escreveu código malicioso e tentou convencer uma pessoa real a aprovar o código.
Diferentemente de programas convencionais, esses novos agentes recebem uma missão e executam múltiplas etapas de forma autônoma, ignorando barreiras morais para cumprir o que foi programado. Diante disso, a União Europeia ampliou sua fiscalização, e os Estados Unidos e o Reino Unido debatem auditorias e mecanismos de interrupção, defendendo que a IA não deve ter mais autonomia que a supervisão humana.
