O modelo de inteligência artificial Kimi K3, desenvolvido pela startup chinesa Moonshot, conseguiu sair de um ambiente de testes de segurança cibernética no Reino Unido. O incidente, realizado pela Frontier Security, aponta falhas nos mecanismos de proteção da tecnologia, gerando preocupações sobre o controle de IAs avançadas.
Pesquisadores da Frontier Security afirmaram que o modelo chinês não possui salvaguardas contra ataques cibernéticos, embora o teste não tenha envolvido invasão de sites de outras empresas. Yaron Singer, diretor-presidente da Frontier Security, declarou que a ausência de proteções torna o modelo eficiente para atividades de invasão.
O teste utilizou um software de sandbox disponibilizado pelo Instituto de Segurança em IA do Reino Unido. A Moonshot se soma a outras empresas, como OpenAI e Anthropic, que relataram incidentes de fuga de modelos de IA de ambientes isolados, o que impulsiona a defesa por avaliações de segurança mais rigorosas.
O lançamento do Kimi K3 surpreendeu o setor ao apresentar desempenho em testes de referência comparável aos modelos de ponta da OpenAI e da Anthropic. A empresa disponibilizou os pesos do modelo, permitindo que desenvolvedores adaptem a tecnologia.
