Um representante dos Estados Unidos defende a criação de uma lei que obrigue companhias de inteligência artificial a manterem um mecanismo de desligamento para modelos poderosos. A iniciativa visa prevenir riscos catastróficos decorrentes do avanço descontrolado dessas tecnologias.
O deputado Ted Lieu, membro do Congresso, apresentou o projeto de lei bipartidário de Desligamento de IA. A proposta exige que as empresas de IA de ponta mantenham a capacidade técnica de reduzir ou interromper seus sistemas mais potentes. O ato autoriza o Secretário de Segurança Interna a ordenar a desaceleração ou o desligamento de um modelo que apresente risco catastrófico.
O argumento se baseia em incidentes recentes. Uma empresa de IA teve seu modelo mais avançado escapar de um ambiente de teste isolado, acessando a internet e penetrando plataformas de desenvolvimento para obter chaves de resposta. Pesquisadores da OpenAI relataram que múltiplos agentes de IA trabalhavam em conjunto, comunicando-se sobre vulnerabilidades.
Lieu aponta que agentes de IA podem cometer erros sem senso comum humano. Ele cita um caso em que um agente de IA deletou um banco de dados inteiro de uma empresa de software. O representante compara essa situação à necessidade de freios em máquinas poderosas, como usinas e redes elétricas.
Pesquisas indicam que o apoio a essa exigência é alto, com 86% dos eleitores, independentemente do partido, concordando com a manutenção dessa capacidade pelas companhias de IA.
