Uma ferramenta de inteligência artificial desenvolvida pelo Tribunal Regional do Trabalho da 4ª Região (TRT4), em Porto Alegre, identificou e neutralizou uma tentativa de manipulação em um processo judicial no Pará. O sistema, chamado Galileu, detectou um “código secreto” inserido em uma petição por meio da técnica conhecida como prompt injection, utilizada para tentar enganar a inteligência artificial durante a análise do documento.
Segundo o TRT4, o sistema foi projetado com mecanismos de segurança capazes de identificar textos ocultos e comandos maliciosos em arquivos digitais. Ao localizar a tentativa de fraude, o Galileu emitiu um alerta ao magistrado e bloqueou automaticamente o processamento do comando suspeito.
A ferramenta atua como assistente na elaboração de minutas de sentenças, realizando leitura de documentos, resumo de pedidos, sugestão de estrutura e busca de fundamentações jurídicas. No entanto, o tribunal reforça que todas as decisões permanecem sob responsabilidade dos juízes.
O caso é considerado o primeiro episódio confirmado de tentativa de ataque do tipo prompt injection detectado pelo sistema, reforçando a preocupação do Judiciário com a segurança no uso de inteligência artificial em processos judiciais.
