Empresas que utilizam data centers buscam alternativas mais acessíveis aos chips da Nvidia. A Amazon oferece seus processadores customizados, Inferentia2 e Trainium, com custos de inferência até 80% menores que os chips H100, segundo consultoria especializada.
A Amazon apresenta uma vantagem de preço em relação à Nvidia para empresas que decidem quais chips de servidor de IA usar em seus data centers. De acordo com Karol Piatek, consultor de infraestrutura de IA na Co Driver Labs, sediada na Irlanda, o custo de rodar modelos de IA existentes, processo conhecido como inferência, com os chips Inferentia2 e Trainium pode ser 80% inferior ao dos chips H100 da Nvidia, em cargas de trabalho equivalentes.
Um número crescente de empresas que mantêm seus próprios data centers procura alternativas mais baratas e de fácil acesso aos chips da Nvidia. A Amazon tem apresentado seus chips de IA customizados, Trainium, usado para desenvolver novos modelos, e Inferentia, a esses clientes, e a proposta tem atraído interesse.
