Pesquisadores de universidades americanas testaram modelos de linguagem avançados em um jogo simulado de contratação e descobriram que a inteligência artificial pode desenvolver vieses próprios. Os modelos, como ChatGPT e Gemini, demonstraram maior tendência a estereotipar candidatos de diferentes grupos étnicos do que os participantes humanos do estudo.
O estudo, conduzido por pesquisadores de Princeton e da Universidade de Chicago, utilizou LLMs para gerenciar 20 vagas em uma cidade fictícia. Os modelos foram instruídos a maximizar contratações bem-sucedidas ao longo de 40 rodadas, com candidatos provenientes de quatro grupos étnicos simulados. Os modelos rapidamente começaram a segregar os candidatos, baseando-se em resultados iniciais de desempenho.
Os resultados indicaram que os modelos eram mais propensos a estereotipar por grupo demográfico do que os humanos. Na escala de segregação, os modelos obtiveram um índice cerca de 65% superior ao dos participantes humanos. Segundo Ryan Liu, estudante de doutorado de Princeton, os LLMs “realmente estão ansiosos para criar generalizações a partir de dados limitados”.
A cientista da computação Angelina Wang, de Cornell, comentou que a melhoria na memória dos chatbots pode intensificar esses vieses, pois o sistema pode “super-indexar os mesmos tipos de comportamentos que vivenciou antes”. Contudo, Liu afirmou que a imposição de valores de justiça não alterou muito o comportamento dos modelos, mas a promessa de um bônus por contratação diversa reduziu significativamente o viés.
