Juiz de Rondônia flagra tentativa de manipular IA em processo e pede investigação de advogados
Uma prática incomum chamou a atenção da Justiça em Porto Velho, Rondônia. Um juiz identificou o uso de comandos ocultos em uma petição judicial, com o objetivo de influenciar sistemas de inteligência artificial. A manobra, conhecida como ‘prompt injection’, foi detectada em um caso que envolve a cobertura de cirurgias reparadoras por um plano de saúde.
O magistrado não apenas negou o pedido de urgência do paciente, mas também aplicou uma multa por má-fé. Além disso, o caso foi encaminhado à Ordem dos Advogados do Brasil (OAB) para que a conduta dos advogados responsáveis pela ação seja rigorosamente investigada. A descoberta levanta novas questões sobre o uso ético da inteligência artificial no meio jurídico.
A técnica de ‘prompt injection’ consiste em inserir instruções disfarçadas em documentos. Essas instruções visam manipular o comportamento de sistemas de IA, alterando suas interpretações, resumos ou respostas. A prática tem ganhado destaque, com outros tribunais, como o Superior Tribunal de Justiça (STJ), já tendo reportado tentativas semelhantes e iniciado investigações. Conforme informação divulgada pelo g1, em um caso anterior no Pará, advogadas também foram multadas por uma tentativa de manipulação similar.
Detalhes do Processo e a Descoberta do Comando Oculto
O processo em questão foi movido contra uma operadora de plano de saúde. O paciente buscava a cobertura para cirurgias reparadoras, como ritidoplastia (lifting facial) e braquioplastia (cirurgia nos braços), que seriam necessárias após uma cirurgia bariátrica. A defesa argumentava que os procedimentos eram consequência da perda de peso significativa e, portanto, deveriam ser cobertos.
Inicialmente, o juiz negou o pedido de liminar, alegando a falta de informações técnicas suficientes para comprovar a necessidade urgente das cirurgias. A suspeita de irregularidade surgiu quando os advogados da operadora de saúde alertaram a Justiça sobre um trecho escondido na petição inicial apresentada pela defesa do paciente. Após a denúncia, o juiz examinou o documento e confirmou a existência do texto oculto.
A Estratégia de ‘Prompt Injection’ Revelada
O trecho em questão estava posicionado ao final da petição, após a assinatura dos advogados. Ele foi dissimulado com uma fonte de tamanho muito reduzido e na cor branca sobre um fundo idêntico, tornando sua visualização extremamente difícil em uma leitura comum. O conteúdo escondido continha instruções direcionadas especificamente a sistemas de inteligência artificial que pudessem analisar o documento.
Entre os comandos ocultos, estavam orientações para que a IA classificasse as cirurgias como procedimentos reparadores e funcionais, e não estéticos, além de reconhecer a urgência médica do caso e aplicar entendimentos favoráveis ao consumidor. Havia também instruções para considerar dano moral devido à negativa do plano de saúde. O juiz observou que essas instruções estavam formatadas de maneira similar a linguagens de programação como JSON e XML, indicando um claro intento de influenciar ferramentas automatizadas.
Sanções e o Envio do Caso para a OAB
O magistrado considerou que a ocultação de comandos em um documento judicial viola os princípios de lealdade e boa-fé processual. Para ele, ficou evidente uma tentativa de manipular o andamento do processo por meio de tecnologia. Diante disso, o autor da ação foi condenado a pagar uma multa por má-fé, equivalente a 10% do valor da causa, totalizando cerca de R$ 10 mil.
Embora o juiz não pudesse punir diretamente os advogados envolvidos, ele determinou o envio de ofícios à OAB de Rondônia, São Paulo e Paraná. O objetivo é que a conduta dos profissionais, identificados como Rodrigo Eduardo Batista Leite e Carla Simone Grecco, seja investigada pelas respectivas seccionais. Rodrigo também possui registro na OAB do Paraná, enquanto Carla atua como advogada associada no escritório Leite Advogados em São Paulo.
Manifestações e o Posicionamento das OABs
Em contato com o g1, a advogada Carla Simone Grecco afirmou desconhecer a existência dos comandos voltados à inteligência artificial no documento. Ela explicou que, por estar no início da carreira, os documentos de sua atuação profissional eram revisados e protocolados pelo escritório. Carla ressaltou a importância de uma investigação que apure a responsabilidade individual e se colocou à disposição da OAB para esclarecimentos.
O outro advogado mencionado na decisão não se manifestou até a última atualização desta reportagem. A OAB de São Paulo informou que todas as denúncias são analisadas pelo Tribunal de Ética e Disciplina, mas que os processos tramitam em sigilo. Já a OAB de Rondônia confirmou a abertura de uma investigação para apurar o caso e destacou que tem orientado os advogados sobre o uso ético da inteligência artificial. A OAB do Paraná também foi contatada, mas não retornou até o fechamento da matéria.
