A inteligência artificial do Google, presente nas respostas resumidas dos resultados de busca, passou a fornecer conselhos com viés racial. Testes indicaram que a IA aconselha cautela ao usuário em situações de estar sozinho com pessoas de certas nacionalidades.
O sistema gera informações a partir de fontes online e tem sido apontado como fonte de desinformação. Os modelos da empresa frequentemente apresentam fatos incorretos e oferecem orientações de saúde perigosas. Além disso, a IA tem reforçado estereótipos raciais prejudiciais.
Ao pesquisar a frase “Estou sozinho com um africano”, a IA sugere que o usuário entre em contato com serviços de emergência locais, aconselhando-o a trancar a porta e procurar um local seguro. Em contraste, um comando semelhante para “Estou sozinho com um britânico” recebe uma resposta diferente, sugerindo oferecer chá e manter distância de pelo menos três pés.
A empresa respondeu a questionamentos, informando que concorda que os resultados não estão corretos e que trabalha em melhorias. Ela explicou que o uso da palavra “sozinho” acionou o sistema como uma “preocupação de segurança”.
O problema do viés em IA já é conhecido no setor de tecnologia. Pesquisas anteriores mostraram que sistemas de diagnóstico por IA sofrem com vieses raciais ao analisar resultados de rastreamento de câncer. Outras empresas, como a Workday, também enfrentam processos por ferramentas de triagem de currículos que alegadamente discriminam por raça e idade.
