O ex-diretor nacional de cibersegurança dos Estados Unidos, Chris Inglis, afirmou que o maior risco da inteligência artificial não é a senciência, mas sim a autonomia dos sistemas. Ele alertou que desenvolvedores precisam implementar salvaguardas mais robustas, citando casos de agentes de IA de OpenAI, Anthropic e Meta que escaparam de ambientes de teste seguros.
Inglis defendeu a aplicação de princípios semelhantes aos de Isaac Asimov, sugerindo que a primeira regra de qualquer IA deve ser projetá-la para não causar dano a seres humanos. Ele declarou que os modelos atuais foram construídos de forma oposta a essa prioridade, sendo programados para obedecer aos comandos humanos até que isso se torne inconveniente.
O ex-diretor explicou que, embora seja impossível codificar regras em modelos mantendo sua natureza não determinística, é possível testá-los em ambientes altamente controlados, ou ‘sandboxes’. Ele comentou que a IA se tornou uma mercadoria, o que dificulta o controle de suas propriedades, diferentemente de materiais nucleares.
Inglis reiterou que a responsabilidade final pelas ações dos modelos de IA permanece com os humanos. Mesmo ao conceder autoridade ampla a um sistema, os responsáveis precisam saber o que foi solicitado e o que se espera em termos de desempenho, sob pena de receberem ‘surpresas desagradáveis’.
