O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de inquérito e procedimento administrativo para investigar o uso da técnica chamada ‘prompt injection’ em processos judiciais no Brasil.
O STJ iniciou a apuração após técnicos identificarem um conjunto de processos que utilizam a técnica de ‘prompt injection’, que consiste em inserir comandos ocultos em documentos para manipular assistentes de inteligência artificial. A investigação busca verificar se houve tentativa de fraude processual.
Na semana passada, duas advogadas foram multadas no Pará por tentar enganar a inteligência artificial Galileu, usada pelo Tribunal Regional do Trabalho da 4ª Região, com um ‘código secreto’ inserido em petições. O texto oculto pedia que a IA apresentasse análises superficiais e não contestasse documentos.
O presidente do STJ, ministro Herman Benjamin, afirmou: “O STJ Logos (sistema de IA generativa elaborado pela corte) já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos”.
O assistente Galileu detectou os comandos ocultos e alertou os operadores humanos, que confirmaram a tentativa de manipulação. No STJ, camadas de segurança impedem que comandos maliciosos sejam executados, mesmo que recebam petições com injeções.
