A empresa de Inteligência Artificial Anthropic propôs uma pausa global no desenvolvimento de sistemas de IA potentes, após identificar sinais de que os modelos mais recentes podem sair do controle humano. A proposta, feita pela companhia sediada em San Francisco, busca permitir que estruturas sociais e pesquisas de alinhamento acompanhem o avanço tecnológico.
A Anthropic declarou que uma desaceleração mundial no desenvolvimento da IA de ponta seria benéfica para o mundo. A empresa ressaltou que, sem um mecanismo de coordenação global, empresas e governos enfrentarão decisões difíceis sobre segurança frente a pressões competitivas e geopolíticas. Para que a pausa seja real, a companhia indicou que grandes empresas de IA nos Estados Unidos e na China precisariam concordar em parar simultaneamente, sob regras verificáveis.
A chamada por coordenação surge em um momento em que dados internos mostram que a IA acelera seu próprio desenvolvimento. A empresa alertou que essa aceleração gera um ciclo de retroalimentação, que pode levar à “melhora recursiva de si mesma”, conceito que descreve um sistema de IA ensinando-se a ser mais inteligente. A Anthropic negou que esse processo seja inevitável, mas afirmou que “as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA”.
A proposta enfrenta resistência, pois executivos e funcionários americanos argumentam que desacelerar o avanço pode dar vantagem à China. Em contrapartida, o presidente Donald Trump assinou um decreto que permite ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do lançamento.
