O programa Fantástico do último domingo (21) expôs casos de João Antônio Trindade Bastos e Taislaine Santos, detidos erroneamente devido a falhas no sistema de reconhecimento facial em Sergipe. O episódio revelou a fragilidade desses sistemas, levantando a questão da confiabilidade dos mesmos. Especialistas apontam que os algoritmos de reconhecimento facial têm viés racial, com taxas significativamente maiores de erros ao identificar mulheres negras em comparação com homens brancos, o que pode resultar em efeitos negativos para a população negra.
O sistema de reconhecimento facial analisa características faciais para criar um número de identificação digital, porém, sua precisão é questionada devido a casos como os de João Antônio e Taislaine. A exposição pública e constrangimento sofridos pelas vítimas ilustram as consequências desses erros. Em resposta às polêmicas, o governo de Sergipe suspendeu o uso do sistema e promete revisar suas abordagens para evitar situações humilhantes como as vivenciadas por Taislaine.
Bahia e Rio de Janeiro são pioneiros no uso do reconhecimento facial no Brasil, com resultados controversos. Enquanto a tecnologia levou à prisão de mais de 1.500 pessoas na Bahia, no Rio a PM utiliza o sistema para identificar suspeitos em tempo real. Os casos de erro e os impactos sociais gerados por essas tecnologias destacam a necessidade de revisão e regulamentação mais rigorosa para garantir sua utilização de forma ética e justa na sociedade brasileira.