O chatbot Grok, da plataforma X, gerou traduções automáticas chocantes e inadequadas, expondo falhas graves no sistema de inteligência artificial. O recurso, implementado em abril, produziu alegações explícitas em vídeos e fotos inofensivas de usuários de diferentes países.
O Grok, chatbot associado a problemas de racismo e exposição de dados de usuários, apresentou falhas notáveis em sua função de tradução. Um usuário sul-coreano, por exemplo, postou um vídeo neutro de personagens de videogame, mas o tradutor automático alegou que o conteúdo era um “c**shot video with my stepmom”.
Outro caso envolveu um vídeo de um homem preparando café durante voo. A tradução automática do Grok afirmou que o vídeo mostrava um homem se masturbando em público, quando o texto original significava apenas que o homem preparava seu próprio café em voo, segundo uma nota da comunidade.
A IA também gerou conteúdo alarmante em outras situações. Um usuário turco, ao postar uma foto de seu filhote, viu a tradução do Grok sugerir que estavam procurando “f*** our baby”. A imprensa aponta que essas falhas destacam o estado da plataforma de microblogging desde a aquisição da empresa.
