Corte vai apurar tentativas de manipulação de sistemas de inteligência artificial por meio de instruções escondidas em petições; prática pode gerar sanções processuais, administrativas e criminais.
O Superior Tribunal de Justiça (STJ) determinou a apuração de tentativas de uso de prompt injection em processos que tramitam na corte. A técnica consiste na inserção de comandos ocultos em documentos processuais, como petições e recursos, com o objetivo de tentar interferir no funcionamento de ferramentas de inteligência artificial usadas para leitura, organização ou apoio à análise de autos. O caso foi anunciado pelo tribunal em 20 de maio de 2026 e será investigado por meio de inquérito policial e procedimento administrativo.
Segundo o STJ, as tentativas identificadas foram neutralizadas pelos mecanismos de segurança do tribunal. Ainda assim, a Presidência da corte determinou que os episódios passem a ser certificados nos próprios autos, medida que permite aos ministros avaliar a aplicação de sanções processuais aos responsáveis.
Como a tentativa de manipulação funciona
O prompt injection é uma forma de ataque contra modelos de inteligência artificial. Em vez de alterar diretamente um sistema, o usuário insere instruções no texto analisado pela IA para tentar induzir a ferramenta a ignorar regras, seguir comandos indevidos ou favorecer uma determinada parte.
No contexto judicial, o risco surge quando comandos escondidos são colocados em peças processuais aparentemente comuns. O olho humano pode não perceber a instrução, mas um sistema automatizado de leitura pode processar aquele conteúdo como ordem, dependendo da forma como a ferramenta foi construída.
O ponto central da investigação é verificar se houve tentativa deliberada de burlar o ambiente tecnológico do tribunal. Para o STJ, a integridade dos processos e a segurança dos sistemas de IA são prioridades desde o desenvolvimento do STJ Logos, plataforma lançada em fevereiro de 2025 para apoiar rotinas internas da corte.
Apuração deve ouvir advogados e escritórios
A Presidência do STJ definiu que advogados e escritórios envolvidos nas peças suspeitas sejam ouvidos no procedimento administrativo. A apuração também pode gerar responsabilização no âmbito criminal e correicional, além de consequências dentro dos próprios processos em que a tentativa de manipulação for identificada.
A medida tem efeito pedagógico para o sistema de Justiça. Ao registrar formalmente cada tentativa nos autos, o tribunal cria um caminho processual para que a conduta seja analisada pelo relator e, quando cabível, punida com base nas regras de lealdade, boa-fé e regularidade processual.
O Código de Processo Civil prevê deveres de conduta para partes, procuradores e todos que participam do processo. Também trata da litigância de má-fé, hipótese aplicada quando alguém usa o processo de forma desleal, altera a verdade dos fatos ou busca objetivo ilegal.
O que muda para o Judiciário
O episódio expõe um novo desafio para tribunais que passaram a usar inteligência artificial em tarefas de triagem, organização, busca, resumo e apoio administrativo. A tecnologia pode acelerar rotinas, mas exige barreiras técnicas, supervisão humana e protocolos claros para impedir que comandos externos contaminem a análise de documentos.
A discussão não é sobre substituir juízes por máquinas. O problema está na tentativa de manipular ferramentas auxiliares que ajudam servidores e magistrados a lidar com grandes volumes de processos. Quando uma petição passa a carregar uma instrução oculta para enganar a IA, o documento deixa de ser apenas uma manifestação jurídica e se transforma em potencial vetor de fraude processual.
Pesquisas recentes sobre segurança em modelos de linguagem apontam que ataques por prompt injection estão entre as vulnerabilidades relevantes em aplicações integradas a IA, especialmente quando sistemas leem documentos produzidos por terceiros.
A investigação tem impacto direto em São Paulo, maior mercado jurídico do país e sede de milhares de escritórios, departamentos jurídicos, lawtechs e empresas que já incorporam inteligência artificial em rotinas de peticionamento, pesquisa jurisprudencial e gestão de processos.
Na prática, o caso serve como alerta para bancas paulistas, advogados autônomos, empresas de tecnologia jurídica e setores de compliance. Ferramentas de IA podem ajudar na produtividade, mas o uso indevido de comandos ocultos em documentos judiciais pode comprometer a reputação profissional, afetar clientes e gerar responsabilização disciplinar, processual e criminal.
Em uma cidade que concentra grande volume de demandas empresariais, trabalhistas, cíveis e de consumo, a resposta do STJ também tende a influenciar protocolos internos de escritórios e departamentos jurídicos em São Paulo, especialmente na revisão de peças produzidas com apoio de automação.
Orientações ao leitor
Advogados devem revisar integralmente peças produzidas com apoio de IA antes do protocolo
Escritórios devem criar políticas internas de uso responsável de inteligência artificial
Clientes devem exigir transparência sobre ferramentas usadas na elaboração de documentos jurídicos
Departamentos jurídicos devem manter registro de revisão humana das peças processuais
Qualquer suspeita de fraude processual pode ser comunicada ao tribunal responsável pelo processo
Condutas profissionais irregulares também podem ser levadas à seccional da OAB competente
Empresas que contratam tecnologia jurídica devem exigir controles contra comandos ocultos e manipulação de documentos
A digitalização do Judiciário brasileiro avançou em ritmo acelerado nos últimos anos. Processos eletrônicos, sistemas de busca automatizada, robôs de triagem e ferramentas de IA passaram a fazer parte da rotina de tribunais e escritórios. Esse avanço trouxe ganho de escala, mas também abriu espaço para riscos novos.
O prompt injection mostra que a segurança jurídica não depende apenas da autenticidade do documento, mas também da forma como sistemas automatizados interpretam seu conteúdo. Por isso, tribunais precisam combinar filtros técnicos, auditoria, rastreabilidade e revisão humana. Já os profissionais do Direito precisam tratar a IA como ferramenta de apoio, nunca como atalho para práticas que comprometam a boa-fé processual.
A decisão do STJ marca um ponto de inflexão no uso de inteligência artificial no sistema de Justiça. Ao investigar comandos ocultos em peças processuais, a corte sinaliza que inovação tecnológica não afasta deveres básicos de lealdade, transparência e responsabilidade. Para São Paulo, centro relevante da advocacia e da tecnologia jurídica no país, o caso reforça a necessidade de governança, revisão humana e padrões éticos rigorosos no uso de IA.
Vinicius Mororó – Jornalista Atípico
Editor-Executivo-Regional
HostingPRESS Agência de Notícias de São Paulo
Conteúdo distribuído por nossa Central de Jornalismo
Reprodução autorizada mediante crédito da fonte
Portal criado para conectar os leitores da região ao melhor conteúdo
Somos líderes de audiência local. Somos sociais. Conecte-se conosco.
