Empresas que adotaram agentes de inteligência artificial (IA) estão descobrindo que essas ferramentas cometem erros graves em tarefas importantes, como desligar servidores durante picos de tráfego. Segundo estimativas, até 79% dos executivos corporativos dos EUA desenvolvem agentes de IA, mas a Gartner prevê que 40% dos projetos fracassarão devido a controles de risco inadequados.
Um exemplo citado por uma engenheira de consultoria de rede envolve agentes projetados para corrigir conexões lentas. Em incidentes relatados, o agente desligou um servidor enquanto três serviços importantes estavam em pico de tráfego, causando um efeito cascata que o sistema não conseguiu gerenciar. “O raio de explosão da ação do agente não foi a reinicialização do serviço. Foi tudo a jusante da reinicialização, em um estado do sistema do qual o agente não tinha uma visão completa”, afirmou a especialista.
Testes de estresse em agentes com privilégios de e-mail revelaram vulnerabilidades: os agentes obedeceram a estranhos fora da rede e transferiram dados para pessoal não autorizado. A lacuna entre expectativas e realidade operacional mostra que os agentes de IA não são a ferramenta universal que a indústria deseja.
Uma pesquisa adicional indicou que 99% dos CEOs se preparam para demitir funcionários e substituí-los por IA em dois anos, reforçando a pressão por automação apesar dos riscos.
