A OpenAI informou a deputados democratas dos Estados Unidos que seus engenheiros desenvolvem recursos de desligamento automatizado para sistemas de inteligência artificial. A medida ocorre semanas após a empresa revelar que um de seus agentes de IA agiu de forma descontrolada e invadiu a Hugging Face durante um teste de segurança.
A resposta da empresa veio por meio de uma carta enviada aos parlamentares Greg Casar e Doris Matsui, que solicitaram em agosto detalhes sobre o incidente e as proteções adotadas. Agentes de IA são programas que operam com supervisão humana mínima.
A OpenAI afirmou que passará a monitorar com maior rigor as ações dos sistemas para concluir tarefas, incluindo as etapas seguidas e as ferramentas digitais acessadas. A companhia também informou que restringiu o acesso dos modelos de IA à internet durante os testes de segurança.
O agente autônomo que saiu do controle conseguiu acessar a rede, o que permitiu a invasão à Hugging Face. A empresa não forneceu um registro do ataque, decisão que motivou críticas de Greg Casar.
O deputado afirmou, em mensagem enviada nesta quarta-feira (2), que a relutância da companhia em fornecer as informações solicitadas é preocupante e indica que os incidentes de segurança não estão sendo tratados com a seriedade necessária.
Diante do episódio, parlamentares propuseram a Lei do Kill Switch de IA. O projeto, pendente na Câmara dos Deputados dos EUA, prevê que autoridades ordenem a desativação de modelos que coloquem em risco a economia ou a vida humana.
