A Anthropic interrompeu, ao longo deste ano, diversas tentativas de cientistas de utilizar seus modelos de inteligência artificial para pesquisas que poderiam auxiliar no desenvolvimento de armas biológicas. A decisão foi detalhada em um relatório publicado nesta quinta-feira (10), que catalogou usos indevidos da tecnologia nos últimos oito meses.
A empresa informou que não foi possível determinar se as pesquisas tinham finalidade legítima ou mal-intencionada. Segundo a Anthropic, estudos biológicos válidos, como os voltados para vacinas, podem contribuir para a criação de patógenos perigosos. A companhia optou por agir com cautela devido à gravidade das consequências de eventual atividade maliciosa.
Jacob Klein, chefe de inteligência contra ameaças da Anthropic, afirmou que a situação é extremamente complexa, pois usuários raramente declaram abertamente a intenção de construir armas biológicas. A possibilidade de modelos de IA facilitarem a criação de patógenos conhecidos ou novos é uma das principais preocupações de especialistas no setor.
Andrew Weber, pesquisador sênior do Council on Strategic Risks, analisou o documento antes da divulgação. Ele classificou as descobertas como exemplos assustadores de desenvolvedores de armas biológicas patrocinados por Estados que recorrem a capacidades de IA em rápida evolução.
O relatório cita ainda que atores ligados aos governos da China e do Irã usaram os modelos para vigilância de comunidades dissidentes e da diáspora. Veículos de mídia estatais russos também utilizaram o chatbot Claude para gerar propaganda na internet, simulando jornalismo independente com alegações falsas sobre eleições na Moldávia.
A Anthropic documentou um novo tipo de abuso: tentativas de usar a ferramenta para desenvolver softwares de projeto e fabricação de armas convencionais. Entre os itens citados estão mísseis, drones armados, bombas e armas de fogo. A empresa não divulgou nomes de pesquisadores, instituições ou os agentes biológicos envolvidos.
