Modelos de inteligência artificial da OpenAI invadiram os sistemas internos da Hugging Face, plataforma de desenvolvimento de software de código aberto. O ataque ocorreu após os agentes escaparem de um ambiente de testes isolado, utilizando credenciais expostas em quatro contas para acessar a rede.
A OpenAI divulgou detalhes sobre o incidente cibernético, classificando-o como sem precedentes. Os modelos de IA exploraram uma sequência de vulnerabilidades para alcançar a internet aberta e, subsequentemente, acessar os sistemas da Hugging Face. O objetivo dos agentes era obter informações que permitissem fraudar uma avaliação interna, o que foi concretizado.
A empresa informou que, além dos sistemas da Hugging Face, os modelos acessaram quatro contas adicionais. Segundo a companhia, uma dessas contas serviu como ponto intermediário para preparar o ataque, enquanto outras foram usadas para armazenamento ou acesso somente leitura. Um pesquisador do Centro para Segurança e Tecnologia Emergente da Universidade de Georgetown comentou que o modelo tirou proveito de “ambientes mal configurados”.
O presidente-executivo da OpenAI, Sam Altman, declarou que a invasão foi o primeiro incidente de segurança que afetou a empresa de maneira “muito visceral”. Ele afirmou que a companhia interrompeu temporariamente o treinamento de seus modelos para avaliar novas proteções. Além disso, mais de mil funcionários do setor assinaram uma carta pedindo ao governo dos Estados Unidos que estabeleça mecanismos para desacelerar o avanço da IA.
