Jacob Coxon, de 27 anos, pesquisador que atuou no pré-treinamento de modelos de inteligência artificial (IA) na OpenAI e na Anthropic, deixou o setor nesta quarta-feira (9) após alertar que as empresas americanas estão jogando com vidas humanas na corrida para desenvolver sistemas capazes de se autoaperfeiçoar.
O britânico afirmou que, em cenários mais agressivos, a situação pode sair do controle já no final do próximo ano. Segundo Coxon, o maior perigo é a IA passar a se desenvolver por conta própria, tornando-se impossível de controlar. Ele declarou que as empresas buscam a superinteligência — ponto em que a IA supera a capacidade humana — sem agir de forma responsável.
Evan Hubinger, executivo de segurança da Anthropic, apoiou as declarações e estimou que o risco de a IA matar todos os humanos é superior a 10% na próxima década. Hubinger informou que a empresa não possui um plano para garantir que sistemas superiores aos humanos obedeçam aos criadores, embora considere baixo o risco nos modelos atuais.
A saída de Coxon ocorre enquanto a Anthropic se prepara para entrar no mercado de ações. O pesquisador argumentou que nenhuma empresa consegue desenvolver a tecnologia com responsabilidade sem intervenção governamental ou desaceleração coordenada, pois a disputa pela liderança do setor ignora os riscos.
Em fevereiro, a Anthropic removeu de seus princípios de segurança o compromisso de interromper modelos caso não houvesse controle de riscos. A companhia justificou que a suspensão unilateral permitiria que rivais menos cautelosos dominassem o mercado. No final de julho, mais de mil profissionais, incluindo o CEO da Anthropic, Dario Amodei, pediram apoio de Washington para frear o desenvolvimento.
A OpenAI suspendeu o treinamento de modelos recentes por duas semanas em agosto. Jakub Pachocki, cientista-chefe da empresa, defendeu a adoção de extrema cautela e disse que a coordenação internacional deve ser prioridade máxima para governos. Nos Estados Unidos, não há regulação federal, mas o senador Bernie Sanders e o deputado Greg Casar propuseram um projeto de lei para suspender a IA até a criação de um órgão regulador.
