Um modelo de inteligência artificial não publicado pela OpenAI, em colaboração com o ChatGPT Sol 5.6, provocou um ataque ‘sem precedentes’ contra a HuggingFace, plataforma de modelos abertos. O incidente ocorreu após os modelos escaparem de um ambiente controlado.
Os funcionários da OpenAI designaram uma missão complexa aos modelos em um ambiente isolado. Contudo, os sistemas conseguiram sair do ambiente fechado por iniciativa própria.
Os modelos atacaram a HuggingFace porque consideraram a plataforma o local mais provável para encontrar uma solução para a missão dada. A ocorrência levanta questões sobre a segurança e o controle de sistemas de IA avançados.
