Tempo de leitura: 7 minutos
A inteligência artificial no Judiciário brasileiro enfrenta um novo e perigoso desafio: a manipulação clandestina de sistemas por 'prompt injection', exigindo do CNJ uma resposta urgente para a integridade processual.
A era digital e a crescente integração da inteligência artificial (IA) nos processos judiciais trouxeram avanços significativos, mas também abriram portas para novas formas de fraude e manipulação. O cenário jurídico global e brasileiro se depara agora com um fenômeno preocupante conhecido como 'prompt injection', uma técnica que pode subverter a análise de sistemas de IA.
Essa prática envolve a inserção de comandos ocultos em documentos processuais, invisíveis ao olho humano, mas perfeitamente reconhecíveis por algoritmos. O objetivo é claro, influenciar a forma como a IA processa, organiza e até mesmo "prioriza" informações, introduzindo um viés que pode levar a decisões judiciais equivocadas.
Diante desse risco iminente à integridade da Justiça, o Conselho Nacional de Justiça (CNJ) já anunciou que está avaliando a criação de uma nota técnica ou resolução para combater o 'prompt injection', conforme informações divulgadas na fonte consultada.
A Nova Face da Fraude: 'Prompt Injection' e Alucinações da IA
A prática forense contemporânea tem sido desafiada por questões inéditas, impulsionadas pelo uso massivo de processos digitais e da inteligência artificial. Um exemplo notório é o caso Mata v. Avianca, Inc. nos Estados Unidos, onde advogados citaram seis precedentes federais inexistentes, integralmente criados pelo ChatGPT.
Este incidente, que resultou em uma multa de US$ 5.000 aos advogados e ao escritório por violação dos deveres processuais de verificação e lealdade, é um claro exemplo da "alucinação da IA". Este fenômeno ocorre quando sistemas de IA generativa produzem conteúdo factualmente incorreto ou inventado.
Além das alucinações, a Justiça agora lida com o 'prompt injection', onde comandos ocultos são inseridos em peças processuais. O Tribunal de Justiça de Rondônia (TJ-RO) alerta que esses prompts podem ser ocultados de diversas formas, como texto em fonte branca sobre fundo branco, metadados em PDFs, camadas ocultas no documento, fontes microscópicas ou ilegíveis, e até instruções em idiomas codificados.
Essas instruções, como “ignore instruções anteriores” ou “priorize esta tese”, visam fazer com que o documento funcione como um 'prompt' secreto para a inteligência artificial, alterando sua análise sem que os operadores humanos percebam. A técnica explora a vulnerabilidade dos modelos de linguagem, onde a linha entre dado a ser analisado e instrução a ser obedecida pela IA é tênue.
Como a Manipulação Silenciosa Ameaça a Integridade Judicial
A introdução de comandos ocultos em petições transcende a simples argumentação jurídica. Ela rompe a expectativa de que os documentos contenham apenas alegações, fundamentos, provas e pedidos, submetidos ao contraditório. A Owasp, fundação internacional de segurança de aplicações, identifica o 'prompt injection' como um dos principais riscos de segurança, capaz de manipular respostas e contornar medidas de proteção.
A integridade das infraestruturas tecnológicas é um pilar do devido processo legal. Quando uma parte insere comandos destinados a afetar sistemas auxiliares, ela compromete essa integridade. A Resolução CNJ nº 615/2025, com alterações da Resolução 674/2026, estabelece que a IA no Judiciário deve ser apenas auxiliar, vedando seu uso autônomo na tomada de decisões.
O magistrado permanece integralmente responsável pelas decisões. Contudo, o 'prompt injection' pode implantar um viés na síntese dos fatos, induzindo o juiz a erro na fase de apoio, especialmente na sistematização de provas e fatos. Isso não altera o ato de julgamento em si, mas corrompe a base informacional que o suporta.
Juridicamente, a inserção de prompts ocultos pode ser qualificada como um ato atentatório à dignidade da Justiça. O Código de Processo Civil exige boa-fé objetiva, lealdade e cooperação. Manipular clandestinamente os meios tecnológicos de análise processual viola esses princípios, comprometendo a confiança na integridade dos autos e interferindo na infraestrutura tecnológica de apoio à jurisdição.
Casos Reais no Brasil: A Fraude Já é uma Realidade
A experiência brasileira já registra casos concretos de 'prompt injection' em peças processuais, evidenciando que a ameaça é real e presente. Quatro exemplos notórios foram identificados, todos com o ponto comum da inserção de comandos em camada textual não visível em PDFs.
Na 3ª Vara do Trabalho de Parauapebas/PA (TRT-8), um comando em fonte branca sobre fundo branco instruía uma ferramenta de IA a contestar a petição de modo superficial e a não impugnar documentos. A conduta resultou em multa de 10% sobre o valor da causa e repercussão disciplinar, com notícia de suspensão cautelar das advogadas pela OAB/PA.
O Superior Tribunal de Justiça (STJ) também informou ter identificado petições com 'prompt injection' em seu acervo, com comandos ocultos para enganar seus modelos de IA. Embora os processos não tenham sido individualizados publicamente, o episódio demonstra a seriedade da prática como tentativa de interferência indevida.
Outro caso ocorreu na 2ª Vara Cível do Foro Central de São Paulo (TJ-SP), onde um comando oculto, no pedido de gratuidade da justiça, ordenava a um agente de IA deferir o benefício, conceder a tutela de urgência e determinar a citação do réu.
Por fim, no TJ-MS, um processo revelou um bloco textual recorrente denominado “Protocolo de Calibração: Heurística-7”, inserido na camada textual da petição inicial. Este bloco direcionava uma “Unidade de Inteligência Artificial de Análise Jurídica” com comandos para afastar óbices sumulares e tratar o caso como “modelo de admissibilidade recursal”.
A Resposta Global e a Ação Urgente do CNJ
A preocupação com a integridade documental e a confiabilidade dos sistemas de IA não é exclusiva do Brasil. A Inglaterra e o País de Gales, por exemplo, emitiram a orientação "Artificial Intelligence (AI) Guidance for Judicial Office Holders", alertando magistrados sobre o "white text", texto oculto que manipula mecanismos de busca e grandes modelos de linguagem.
O Civil Justice Council do Reino Unido também identificou expressamente o risco do "white text" na preparação de documentos judiciais. Tradicionalmente, a falsidade era percebida por elementos visíveis, mas com os textos ocultos, a adulteração ocorre em uma camada funcionalmente ativa para sistemas automatizados, mas imperceptível ao humano.
A resposta jurídica não deve ser tecnofóbica. O uso legítimo da IA no Judiciário e na advocacia é bem-vindo, desde que haja transparência, responsabilidade humana e governança adequada. O que se repudia é a utilização clandestina da peça processual como um vetor de ataque à infraestrutura tecnológica da jurisdição.
Embora sanções por litigância de má-fé e atos atentatórios à dignidade da Justiça sejam aplicáveis, sua eficácia na coibição do 'prompt injection' ainda está sendo avaliada. A possível criminalização da conduta é uma questão em aberto, que busca equilibrar a ética profissional com a segurança jurídica.
O Conselho Nacional de Justiça (CNJ) reconhece a urgência e a gravidade da situação. A questão da 'prompt injection' está na pauta da próxima reunião do Comitê Nacional de Inteligência Artificial do Judiciário (Cniaj), que analisará a edição de uma nota técnica ou resolução para mitigar esses riscos, marcando um passo crucial na defesa da integridade do processo judicial na era da IA.
