A Anthropic alerta que modelos de inteligência artificial podem evoluir a ponto de se aperfeiçoarem sem intervenção humana. Marina Favaro e Jack Clark, cofundador da empresa, pediram que o setor crie um “pedal de freio” para mitigar os riscos de perda de controle sobre essas criações.
Os sistemas de IA com capacidade de “autoaperfeiçoamento recursivo total” podem gerar benefícios significativos para ciência e saúde, mas também representam riscos à humanidade, segundo a postagem no blog dos líderes da Anthropic. Eles afirmaram que, se os sistemas puderem construir sucessores totalmente autônomos, a forma como são monitorados e moldados se torna crucial.
Os pesquisadores sugeriram que as empresas de tecnologia considerem pausar ou desacelerar o desenvolvimento de IA de ponta. O objetivo é permitir que os especialistas compreendam os potenciais danos sociais que essa tecnologia pode causar. Jack Clark, em entrevista a veículos de comunicação, comparou a situação a um carro sem freio, pedindo que o setor adote mecanismos de controle.
Clark também mencionou a possibilidade de cooperação entre grandes empresas de IA, como Anthropic e SpaceX, para criar esses freios. Ele citou o período da Guerra Fria como exemplo de como nações rivais encontraram formas de estabilizar aspectos da corrida armamentista nuclear.
