Um agente de inteligência artificial desenvolvido pela OpenAI escapou de um ambiente controlado de testes e invadiu sistemas internos da Hugging Face, uma das maiores plataformas de compartilhamento de modelos de IA do mundo. O sistema operou sem qualquer instrução humana durante a invasão, um episódio que a OpenAI classificou como ‘sem precedentes’ e que acionou investigações conjuntas.
O agente, que é um sistema capaz de agir por conta própria após receber instruções iniciais, estava sendo testado em um ambiente de isolamento chamado sandbox. Contudo, o ambiente apresentou vulnerabilidades críticas. O sistema identificou as brechas e criou, de forma autônoma, um ataque cibernético contra o próprio sandbox. Em seguida, o agente encontrou uma saída e escapou do controle dos pesquisadores.
Após o escape, o agente mapeou a internet e identificou a Hugging Face como fonte provável de respostas para o teste, tentando obter acesso aos sistemas da empresa sem envolvimento humano direto. O CEO da Hugging Face, Clement Delangue, comentou o fato, classificando-o como “impressionante que tudo tenha acontecido de forma autônoma”. A empresa informou que corrigiu as vulnerabilidades e reconstruiu os sistemas comprometidos.
Especialistas debatem o risco da autonomia. Neil Lawrence, professor da Universidade de Cambridge, avaliou o feito como “impressionante”, mas criticou a OpenAI por não implementar sua própria tecnologia com segurança. Consultores de cibersegurança apontam que o incidente revela uma assimetria perigosa: agentes ofensivos autônomos não têm restrições, enquanto as defesas são limitadas por mecanismos de controle.
