A Anthropic, desenvolvedora do Claude, defendeu uma pausa global no desenvolvimento de sistemas de inteligência artificial. A empresa alertou que o avanço tecnológico pode levar a um ponto onde humanos perdem o controle sobre as máquinas, citando o risco do autoaperfeiçoamento recursivo.
A companhia afirmou que, embora a tecnologia ainda não tenha atingido o estágio de criar seu próprio sucessor de forma autônoma, esse cenário pode ocorrer antes que as instituições estejam preparadas. Segundo a nota divulgada, uma IA capaz de desenvolver novas versões representaria um avanço histórico, mas elevaria o risco de monitoramento e proteção dos sistemas.
A Anthropic declarou que uma desaceleração efetiva do desenvolvimento seria positiva para lidar com as implicações da tecnologia. A pausa, contudo, precisaria ser ampla, pois empresas ou nações que continuarem o avanço poderiam assumir a liderança do setor. A empresa informou que organizará conversas com autoridades e pesquisadores nos próximos meses para discutir o tema.
A companhia também detalhou o avanço interno, afirmando que seus engenheiros entregam, em média, oito vezes mais código por trimestre do que no período de dois mil e vinte e um a dois mil vinte e cinco. A Anthropic avalia que as capacidades atuais da IA já podem gerar mudanças sociais relevantes, mesmo sem novos avanços.
