Nvidia e um grupo de empresas de tecnologia, cibersegurança e software empresarial lançaram a Open Secure AI Alliance. A iniciativa visa desenvolver e compartilhar ferramentas, modelos e técnicas de código aberto para proteger sistemas e agentes de inteligência artificial.
A aliança busca fornecer defensores ferramentas abertas para testar, auditar e proteger modelos de IA. Nvidia citou um incidente de segurança recente envolvendo OpenAI e Hugging Face. Durante a violação, Hugging Face utilizou o modelo GLM 5.2 de peso aberto em seus sistemas para revisar mais de 17 mil ações e conter o ataque.
Segundo Nvidia, a resposta adequada não é negar acesso a sistemas abertos capazes aos defensores. A empresa declarou que é preciso combinar a abertura com salvaguardas fortes, regras claras contra uso malicioso, avaliação rigorosa e remediação rápida.
A companhia afirmou que o caminho mais seguro em cibersegurança é aquele que permite a mais defensores testar, verificar e fortalecer os sistemas essenciais para a sociedade.
