O líder do Google DeepMind, Demis Hassabis, solicitou que os Estados Unidos liderem a criação de um órgão de padrões de inteligência artificial. A proposta visa revisar modelos de ponta para identificar riscos de segurança nacional, como ameaças cibernéticas e biológicas, segundo Hassabis.
Hassabis afirmou que é necessária ação urgente para gerenciar os perigos associados à inteligência artificial geral (AGI), o estágio em que a IA iguala ou supera a capacidade humana. Ele declarou que os modelos de ponta já apresentam desafios para a cibersegurança, e que riscos nucleares e biológicos podem surgir com o avanço das capacidades.
A sugestão é estabelecer um corpo de padrões, baseado em parceria público-privada ou organização autorreguladora, similar à FINRA. Este órgão teria um conselho composto por especialistas técnicos independentes e representantes de código aberto. Hassabis disse que o corpo precisaria de financiamento substancial, provavelmente vindo da indústria, para atrair talentos e recursos de computação.
Inicialmente, os laboratórios de ponta compartilhariam modelos voluntariamente com o órgão por até 30 dias antes do lançamento. Posteriormente, a submissão se tornaria obrigatória para o mercado dos EUA, após comprovação de eficácia. Testes específicos poderiam buscar tentativas de burlar salvaguardas de segurança ou sinais de engano, além de garantir práticas como a marca d’água digital em imagens geradas por IA.
