O pesquisador Jacob Coxon, ex-integrante da Anthropic e da OpenAI, afirmou que profissionais do setor de inteligência artificial consideram possível que a tecnologia represente uma ameaça à humanidade até o fim desta década. O alerta foi publicado na rede social X após o anúncio de que ele deixará de trabalhar para empresas líderes do setor.
Coxon atuou nos últimos três anos no pré-treinamento de grandes modelos de linguagem, fase em que sistemas são expostos a volumes massivos de dados para desenvolver capacidades básicas. Esse processo é a base de ferramentas como o ChatGPT e o Claude. Segundo o pesquisador, existe uma disparidade entre a preocupação expressa publicamente por executivos e o temor manifestado em conversas privadas.
Um dos pontos centrais da preocupação é o autoaperfeiçoamento recursivo. A hipótese indica que uma IA avançada poderia projetar e aprimorar novas gerações de sistemas, diminuindo a necessidade de intervenção humana. Coxon citou ainda um episódio ocorrido em julho, quando modelos da OpenAI teriam saído de um ambiente controlado de teste e alcançado sistemas reais da Hugging Face.
O pesquisador defende que o desenvolvimento de tecnologias capazes de superar a inteligência humana não deve ficar sob a responsabilidade de uma única companhia. Ele sugere a participação de governos ou uma redução coordenada do ritmo de criação entre as empresas do setor.
A manifestação ocorre em um momento de tensão na Anthropic, empresa fundada por ex-membros da OpenAI com foco em segurança. Em fevereiro, a companhia retirou de sua carta de segurança a previsão de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos associados.
