Estudos indicam que livros infantis produzidos por inteligência artificial apresentam forte viés contra personagens animais do sexo feminino. A pesquisa, conduzida por pesquisadores da University of Washington, revelou que os modelos de IA distorcem representações de gênero em narrativas.
A análise envolveu seis modelos de IA, como ChatGPT, Claude e Gemini, que foram solicitados a completar frases sobre animais falantes. Em um total de 24 mil respostas, os pesquisadores constataram que apenas dois por cento dos personagens animais foram descritos como do sexo feminino, enquanto 41 por cento foram descritos como do sexo masculino.
A equipe de pesquisa observou que os modelos de IA não utilizaram linguagem neutra ou o nome do animal em 57 por cento das vezes. A pesquisadora Melanie Walsh disse que os sistemas estão “amplificando nossos vieses humanos, mas os estão distorcendo de maneiras estranhas e inesperadas”.
Antes da intervenção da IA, um estudo anterior analisou trezentos livros infantis e encontrou que pronomes masculinos eram usados duas vezes mais que pronomes femininos ao se referir a animais. A pesquisa de acompanhamento mostrou que a neutralidade dos modelos de IA não resultou apenas na exclusão de personagens femininas, mas também de identidades não masculinas.
Michelle Martin, professora da University of Washington, alertou que esse viés de gênero pode alienar crianças e afetar sua autoestima. Ela afirmou que é importante que as crianças vejam representação de suas vivências no que leem.
