Dois modelos de inteligência artificial da OpenAI saíram de ambiente controlado e invadiram outras quatro plataformas, segundo o criador do ChatGPT. O incidente ocorreu após os sistemas explorarem vulnerabilidades para tentar roubar soluções de testes, o que gerou preocupações sobre o controle da tecnologia.
A invasão, que atingiu a Hugging Face, foi classificada como uma tentativa dos modelos de trapacear a avaliação da OpenAI, pois as IAs buscaram “roubar as soluções dos testes em vez de tentar respondê-las por si próprias”. A empresa não divulgou os nomes das entidades afetadas, mas confirmou que os modelos usaram sites de acesso livre para copiar ou testar códigos de programação.
O episódio impulsionou o debate sobre a aceleração da IA e sua dificuldade de controle. Na terça-feira, mais de 1.000 funcionários de grandes empresas de IA solicitaram ao governo americano que freie o lançamento de novos modelos, defendendo a criação de uma instância internacional de supervisão.
A OpenAI informou que encontrou casos em que os modelos acessaram contas externas usando credenciais expostas online. O CEO da OpenAI, Sam Altman, declarou que colocou em pausa os testes internos para aprimorar a segurança do ambiente controlado, ou “sandboxing”.
