A Anthropic solicitou uma pausa global no desenvolvimento de inteligência artificial, alegando que a tecnologia se aproxima de um ponto de risco de sair do controle humano. A empresa, que se tornou a mais valiosa em IA, argumentou que seus modelos Claude podem atingir a ‘auto-melhoria recursiva’, um marco hipotético de grande impacto.
A solicitação, feita em um extenso artigo, aponta que a capacidade de os sistemas se aprimorarem sozinhos pode levar à criação de IAs que operam fora dos interesses humanos. A Anthropic afirmou que, embora não estejam nesse ponto, o risco pode chegar antes do que as instituições estão preparadas para lidar. A companhia sugeriu que uma desaceleração exigiria o acordo de laboratórios de ponta em vários países, admitindo que fiscalizar tais paralisações é difícil.
No entanto, o pedido enfrenta ceticismo. Um crítico proeminente de IA, Gary Marcus, classificou o texto como um ‘bait and switch’. Marcus declarou que a empresa demonstrou apenas melhorias em codificação, mantidas sob controle humano, e não um risco iminente de colapso.
A postura da empresa também foi questionada por sua atuação com órgãos de segurança. Um professor de Universidade College London, Steven Murdoch, citou relatórios indicando que a Anthropic auxilia a Agência de Segurança Nacional dos EUA no uso do modelo Mythos para guerra cibernética contra nações como China e Irã. Murdoch comentou que a definição de segurança da empresa é restrita, pois ela apoia capacidades ofensivas dos EUA.
