Tempo de leitura: 7 minutos<\/small><\/p> A intelig\u00eancia artificial no Judici\u00e1rio brasileiro enfrenta um novo e perigoso desafio: a manipula\u00e7\u00e3o clandestina de sistemas por 'prompt injection<\/b>', exigindo do CNJ uma resposta urgente para a integridade processual.<\/h2>\n
A era digital e a crescente integra\u00e7\u00e3o da intelig\u00eancia artificial (IA) nos processos judiciais trouxeram avan\u00e7os significativos, mas tamb\u00e9m abriram portas para novas formas de fraude e manipula\u00e7\u00e3o. O cen\u00e1rio jur\u00eddico global e brasileiro se depara agora com um fen\u00f4meno preocupante conhecido como 'prompt injection<\/b>', uma t\u00e9cnica que pode subverter a an\u00e1lise de sistemas de IA.<\/p>\n
Essa pr\u00e1tica envolve a inser\u00e7\u00e3o de comandos ocultos em documentos processuais, invis\u00edveis ao olho humano, mas perfeitamente reconhec\u00edveis por algoritmos. O objetivo \u00e9 claro, influenciar a forma como a IA processa, organiza e at\u00e9 mesmo \"prioriza\" informa\u00e7\u00f5es, introduzindo um vi\u00e9s que pode levar a decis\u00f5es judiciais equivocadas.<\/p>\n
Diante desse risco iminente \u00e0 integridade da Justi\u00e7a, o Conselho Nacional de Justi\u00e7a (CNJ) j\u00e1 anunciou que est\u00e1 avaliando a cria\u00e7\u00e3o de uma nota t\u00e9cnica ou resolu\u00e7\u00e3o para combater o 'prompt injection<\/b>', conforme informa\u00e7\u00f5es divulgadas na fonte consultada.<\/p>\nA Nova Face da Fraude: 'Prompt Injection' e Alucina\u00e7\u00f5es da IA<\/h3>\n
A pr\u00e1tica forense contempor\u00e2nea tem sido desafiada por quest\u00f5es in\u00e9ditas, impulsionadas pelo uso massivo de processos digitais e da intelig\u00eancia artificial. Um exemplo not\u00f3rio \u00e9 o caso Mata v. Avianca, Inc. nos Estados Unidos, onde advogados citaram seis precedentes federais inexistentes, integralmente criados pelo ChatGPT.<\/p>\n
Este incidente, que resultou em uma multa de US$ 5.000 aos advogados e ao escrit\u00f3rio por viola\u00e7\u00e3o dos deveres processuais de verifica\u00e7\u00e3o e lealdade, \u00e9 um claro exemplo da \"alucina\u00e7\u00e3o da IA\". Este fen\u00f4meno ocorre quando sistemas de IA generativa produzem conte\u00fado factualmente incorreto ou inventado.<\/p>\n
Al\u00e9m das alucina\u00e7\u00f5es, a Justi\u00e7a agora lida com o 'prompt injection<\/b>', onde comandos ocultos s\u00e3o inseridos em pe\u00e7as processuais. O Tribunal de Justi\u00e7a de Rond\u00f4nia (TJ-RO) alerta que esses prompts podem ser ocultados de diversas formas, como texto em fonte branca sobre fundo branco, metadados em PDFs, camadas ocultas no documento, fontes microsc\u00f3picas ou ileg\u00edveis, e at\u00e9 instru\u00e7\u00f5es em idiomas codificados.<\/p>\n
Essas instru\u00e7\u00f5es, como \u201cignore instru\u00e7\u00f5es anteriores\u201d ou \u201cpriorize esta tese\u201d, visam fazer com que o documento funcione como um 'prompt<\/b>' secreto para a intelig\u00eancia artificial, alterando sua an\u00e1lise sem que os operadores humanos percebam. A t\u00e9cnica explora a vulnerabilidade dos modelos de linguagem, onde a linha entre dado a ser analisado e instru\u00e7\u00e3o a ser obedecida pela IA \u00e9 t\u00eanue.<\/p>\n A introdu\u00e7\u00e3o de comandos ocultos em peti\u00e7\u00f5es transcende a simples argumenta\u00e7\u00e3o jur\u00eddica. Ela rompe a expectativa de que os documentos contenham apenas alega\u00e7\u00f5es, fundamentos, provas e pedidos, submetidos ao contradit\u00f3rio. A Owasp, funda\u00e7\u00e3o internacional de seguran\u00e7a de aplica\u00e7\u00f5es, identifica o 'prompt injection<\/b>' como um dos principais riscos de seguran\u00e7a, capaz de manipular respostas e contornar medidas de prote\u00e7\u00e3o.<\/p>\n A integridade das infraestruturas tecnol\u00f3gicas \u00e9 um pilar do devido processo legal. Quando uma parte insere comandos destinados a afetar sistemas auxiliares, ela compromete essa integridade. A Resolu\u00e7\u00e3o CNJ n\u00ba 615\/2025, com altera\u00e7\u00f5es da Resolu\u00e7\u00e3o 674\/2026, estabelece que a IA no Judici\u00e1rio deve ser apenas auxiliar, vedando seu uso aut\u00f4nomo na tomada de decis\u00f5es.<\/p>\n O magistrado permanece integralmente respons\u00e1vel pelas decis\u00f5es. Contudo, o 'prompt injection<\/b>' pode implantar um vi\u00e9s na s\u00edntese dos fatos, induzindo o juiz a erro na fase de apoio, especialmente na sistematiza\u00e7\u00e3o de provas e fatos. Isso n\u00e3o altera o ato de julgamento em si, mas corrompe a base informacional que o suporta.<\/p>\n Juridicamente, a inser\u00e7\u00e3o de prompts ocultos pode ser qualificada como um ato atentat\u00f3rio \u00e0 dignidade da Justi\u00e7a<\/b>. O C\u00f3digo de Processo Civil exige boa-f\u00e9 objetiva, lealdade e coopera\u00e7\u00e3o. Manipular clandestinamente os meios tecnol\u00f3gicos de an\u00e1lise processual viola esses princ\u00edpios, comprometendo a confian\u00e7a na integridade dos autos e interferindo na infraestrutura tecnol\u00f3gica de apoio \u00e0 jurisdi\u00e7\u00e3o.<\/p>\n A experi\u00eancia brasileira j\u00e1 registra casos concretos de 'prompt injection<\/b>' em pe\u00e7as processuais, evidenciando que a amea\u00e7a \u00e9 real e presente. Quatro exemplos not\u00f3rios foram identificados, todos com o ponto comum da inser\u00e7\u00e3o de comandos em camada textual n\u00e3o vis\u00edvel em PDFs.<\/p>\n Na 3\u00aa Vara do Trabalho de Parauapebas\/PA (TRT-8), um comando em fonte branca sobre fundo branco instru\u00eda uma ferramenta de IA a contestar a peti\u00e7\u00e3o de modo superficial e a n\u00e3o impugnar documentos. A conduta resultou em multa de 10% sobre o valor da causa e repercuss\u00e3o disciplinar, com not\u00edcia de suspens\u00e3o cautelar das advogadas pela OAB\/PA.<\/p>\n O Superior Tribunal de Justi\u00e7a (STJ) tamb\u00e9m informou ter identificado peti\u00e7\u00f5es com 'prompt injection<\/b>' em seu acervo, com comandos ocultos para enganar seus modelos de IA. Embora os processos n\u00e3o tenham sido individualizados publicamente, o epis\u00f3dio demonstra a seriedade da pr\u00e1tica como tentativa de interfer\u00eancia indevida.<\/p>\n Outro caso ocorreu na 2\u00aa Vara C\u00edvel do Foro Central de S\u00e3o Paulo (TJ-SP), onde um comando oculto, no pedido de gratuidade da justi\u00e7a, ordenava a um agente de IA deferir o benef\u00edcio, conceder a tutela de urg\u00eancia e determinar a cita\u00e7\u00e3o do r\u00e9u.<\/p>\n Por fim, no TJ-MS, um processo revelou um bloco textual recorrente denominado \u201cProtocolo de Calibra\u00e7\u00e3o: Heur\u00edstica-7\u201d, inserido na camada textual da peti\u00e7\u00e3o inicial. Este bloco direcionava uma \u201cUnidade de Intelig\u00eancia Artificial de An\u00e1lise Jur\u00eddica\u201d com comandos para afastar \u00f3bices sumulares e tratar o caso como \u201cmodelo de admissibilidade recursal\u201d.<\/p>\n A preocupa\u00e7\u00e3o com a integridade documental e a confiabilidade dos sistemas de IA n\u00e3o \u00e9 exclusiva do Brasil. A Inglaterra e o Pa\u00eds de Gales, por exemplo, emitiram a orienta\u00e7\u00e3o \"Artificial Intelligence (AI) Guidance for Judicial Office Holders\", alertando magistrados sobre o \"white text\", texto oculto que manipula mecanismos de busca e grandes modelos de linguagem.<\/p>\n O Civil Justice Council do Reino Unido tamb\u00e9m identificou expressamente o risco do \"white text\" na prepara\u00e7\u00e3o de documentos judiciais. Tradicionalmente, a falsidade era percebida por elementos vis\u00edveis, mas com os textos ocultos, a adultera\u00e7\u00e3o ocorre em uma camada funcionalmente ativa para sistemas automatizados, mas impercept\u00edvel ao humano.<\/p>\n A resposta jur\u00eddica n\u00e3o deve ser tecnof\u00f3bica. O uso leg\u00edtimo da IA no Judici\u00e1rio e na advocacia \u00e9 bem-vindo, desde que haja transpar\u00eancia, responsabilidade humana e governan\u00e7a adequada. O que se repudia \u00e9 a utiliza\u00e7\u00e3o clandestina da pe\u00e7a processual como um vetor de ataque \u00e0 infraestrutura tecnol\u00f3gica da jurisdi\u00e7\u00e3o.<\/p>\n Embora san\u00e7\u00f5es por litig\u00e2ncia de m\u00e1-f\u00e9 e atos atentat\u00f3rios \u00e0 dignidade da Justi\u00e7a sejam aplic\u00e1veis, sua efic\u00e1cia na coibi\u00e7\u00e3o do 'prompt injection<\/b>' ainda est\u00e1 sendo avaliada. A poss\u00edvel criminaliza\u00e7\u00e3o da conduta \u00e9 uma quest\u00e3o em aberto, que busca equilibrar a \u00e9tica profissional com a seguran\u00e7a jur\u00eddica.<\/p>\n O Conselho Nacional de Justi\u00e7a (CNJ) reconhece a urg\u00eancia e a gravidade da situa\u00e7\u00e3o. A quest\u00e3o da 'prompt injection<\/b>' est\u00e1 na pauta da pr\u00f3xima reuni\u00e3o do Comit\u00ea Nacional de Intelig\u00eancia Artificial do Judici\u00e1rio (Cniaj), que analisar\u00e1 a edi\u00e7\u00e3o de uma nota t\u00e9cnica ou resolu\u00e7\u00e3o para mitigar esses riscos, marcando um passo crucial na defesa da integridade do processo judicial na era da IA.<\/p>\n","protected":false},"excerpt":{"rendered":" 7 minutos<\/small> A intelig\u00eancia artificial no Judici\u00e1rio brasileiro enfrenta um novo e perigoso desafio: a manipula\u00e7\u00e3o clandestina de sistemas por ‘prompt injection’, exigindo do CNJ uma resposta urgente para a integridade processual. A era digital e a crescente integra\u00e7\u00e3o da intelig\u00eancia artificial (IA) nos processos judiciais trouxeram avan\u00e7os significativos, mas tamb\u00e9m abriram portas para novas formas de fraude e manipula\u00e7\u00e3o. O cen\u00e1rio jur\u00eddico global e brasileiro se depara agora com um fen\u00f4meno preocupante conhecido como ‘prompt injection’, uma t\u00e9cnica que pode subverter a an\u00e1lise Continue lendo<\/span>\u2192<\/a><\/p>\n","protected":false},"author":8,"featured_media":9960366534,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"_mbp_gutenberg_autopost":false,"maa_idioma":"","maa_pais":"","footnotes":""},"categories":[933,803],"tags":[],"class_list":["entry","author-arka-online-blog","post-9960366533","post","type-post","status-publish","format-standard","has-post-thumbnail","category-noticias","category-padrao"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/posts\/9960366533","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/comments?post=9960366533"}],"version-history":[{"count":0,"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/posts\/9960366533\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/media\/9960366534"}],"wp:attachment":[{"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/media?parent=9960366533"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/categories?post=9960366533"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.arkaonline.com.br\/blog\/wp-json\/wp\/v2\/tags?post=9960366533"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}<\/span>Como a Manipula\u00e7\u00e3o Silenciosa Amea\u00e7a a Integridade Judicial<\/span><\/h3>\n
<\/span>Casos Reais no Brasil: A Fraude J\u00e1 \u00e9 uma Realidade<\/span><\/h3>\n
<\/span>A Resposta Global e a A\u00e7\u00e3o Urgente do CNJ<\/span><\/h3>\n