Juízes e servidores já usam robôs autônomos para acelerar processos, mas uma falha crítica permite que estranhos ditem ordens a essas máquinas. O resultado pode ser o vazamento de segredos de justiça, senhas e dados pessoais de magistrados. O alerta parte de dentro do próprio Conselho Nacional de Justiça (CNJ).
A ameaça tem nome técnico: prompt injection (injeção de comando). Advogados já foram pegos escondendo instruções em letras brancas no fundo branco de petições para manipular análises automáticas. Até agora, um humano revisava a resposta da IA. Com os novos “agentes”, a execução é imediata e sem supervisão prévia.
Por que agentes de IA mudam o jogo da segurança
Diferente de um chatbot que apenas sugere texto, um agente recebe permissões para agir: abrir arquivos, enviar e-mails, rodar códigos e navegar em sistemas. Se um comando malicioso estiver escondido num documento processual, o agente pode executar a ordem — como exportar uma lista de processos sigilosos — antes que alguém perceba.
O juiz federal George Marmelstein, do Comitê de IA do CNJ, resume o risco: “Os agentes apertam botões. Eles têm a questão do fazer. E ao fazer, podem rodar um código malicioso que pega credenciais e dados”.
Os números que expõem a fragilidade atual
O monitoramento do Superior Tribunal de Justiça (STJ) revela a escala do problema:
- Quase 6 milhões de peças processuais analisadas.
- 116 casos suspeitos de comandos ocultos detectados.
- 40 confirmações após análise humana.
- Taxa: 1 caso a cada 150 mil peças.
Parece pouco, mas em escala nacional equivale a dezenas de tentativas de invasão por mês. E a tendência é de alta: 178 projetos de IA rodam nos tribunais brasileiros, e 96% dos magistrados já usam ChatGPT no trabalho — 83% sem informar oficialmente.
O elo fraco: permissões excessivas e falta de auditoria
Especialistas concordam: o perigo não está apenas no modelo de IA (seja ChatGPT, Claude ou sistema próprio), mas na arquitetura de acesso. Um agente designado para resumir um processo não precisa de permissão para enviar e-mails ou acessar outros gabinetes.
Matheus Vasconcelos, especialista em cibersegurança, defende o princípio do menor privilégio: “Não há motivo para ele ter, por padrão, acesso a outros processos ou autorização para alterar registros”. Arthur Igreja complementa: a supervisão humana deve ser proporcional ao risco da ação, funcionando como a última barreira.
Caixa-preta e desigualdade: os riscos além do vazamento
A vulnerabilidade técnica é só a ponta do iceberg. A professora Ana Frazão (UnB) alerta para a assimetria tecnológica: “A disputa processual pode virar disputa por quem tem a melhor tecnologia para influenciar a IA do juiz”.
Some-se a isso o uso de plataformas comerciais (Google, Microsoft, OpenAI) sem garantias de isenção. O CNJ permitiu a contratação desses serviços enquanto não há IA soberana do Judiciário, mas exige governança e supervisão humana. A fiscalização, porém, ainda engatinha: corregedorias não têm rotina consolidada para inspecionar uso de IA, e a resolução de 2025 não obriga o juiz a revelar às partes se usou a ferramenta na fundamentação.
O que observar daqui para frente
Três movimentos definirão o cenário nos próximos meses:
- PROSEG-IA: o programa de segurança adversarial do CNJ começa a testar vulnerabilidades reais em agentes de tribunais.
- Ondas de litigiosidade: STJ e CNJ vão varrer dados para prever explosões de demandas repetitivas antes que congestionem varas.
- Cobrança por transparência: OAB e associações de advogados pressionam para que partes possam questionar tecnicamente decisões assistidas por IA.
Para quem atua no ecossistema jurídico — escritórios, legaltechs, investidores em lawtechs —, o recado é claro: segurança de agente de IA não é item de compliance opcional, é pré-requisito de operação. Quem ignorar a gestão de permissões e a rastreabilidade de comandos estará exposto a vazamentos que destroem reputação e processos em segundos.
