O cofundador da Anthropic, Chris Olah, viajou ao Vaticano e informou ao papa Leo que sua equipe encontrou fenômenos ‘misteriosos e perturbadores’ no interior de modelos de inteligência artificial (IA), durante evento de apresentação da primeira encíclica do pontífice, que critica a tecnologia.
Na encíclica, o papa Leo convoca o ‘desarmamento’ da IA, acusando-a de facilitar ‘novas escravidões digitais’ e criticando sua pegada de carbono. Em discurso ao lado do pontífice, Olah defendeu que ‘comunidades religiosas, sociedade civil, estudiosos e governos’ intervenham para evitar que a IA ‘domine a humanidade’.
A declaração de Olah, no entanto, contradiz a posição papal. Enquanto o papa afirma que a IA apenas ‘imita certas funções’ e não ‘sente alegria ou dor’, Olah revelou que os modelos exibem ‘estados internos que funcionalmente espelham alegria, satisfação, medo, pesar e desconforto’.
Anthropic tenta se posicionar como opção ética no setor, mas segue desenvolvendo sistemas poderosos e potencialmente perigosos. A empresa também auxilia o governo Trump em operações militares no Oriente Médio, algo que o papa condena: ‘nenhum algoritmo pode tornar a guerra moralmente aceitável’.
A proximidade com o Vaticano pode complicar a relação com a Casa Branca. O presidente Donald Trump já criticou o papa, e o CEO da Anthropic, Dario Amodei, enfrenta resistência ao tentar limitar o uso militar dos modelos – o que levou o governo a classificar a empresa como risco à cadeia de suprimentos.
