A crescente integração da Inteligência Artificial em diversos setores levanta questões cruciais sobre seu uso ético. No Brasil, a Justiça de São Paulo acendeu um alerta ao identificar uma fraude com IA em ações judiciais, resultando na punição de um advogado.
Este caso emblemático expõe a vulnerabilidade de sistemas automatizados e a necessidade urgente de supervisão humana, especialmente em processos tão críticos quanto os jurídicos.
O Alerta da Justiça: Fraude com IA em Ações Judiciais
O Tribunal de Justiça de São Paulo (TJSP) revelou um esquema de manipulação envolvendo Inteligência Artificial. Um advogado foi flagrado utilizando técnicas para tentar influenciar decisões judiciais a seu favor.
Os casos estavam ligados a ações com indícios de litigância predatória, caracterizadas por petições padronizadas e um volume suspeito de processos.
A Técnica Oculta por Trás da Fraude
A fraude foi identificada através de um método engenhoso. O advogado inseria comandos invisíveis, escritos em fonte branca sobre fundo branco, nas petições.
Esses comandos, imperceptíveis ao olho humano, orientavam um suposto agente de IA a conceder benefícios. O objetivo era obter decisões como:
- Justiça gratuita para a parte autora.
- Tutela de urgência, agilizando o processo.
- A citação do réu de forma automatizada.
Essa tentativa de manipulação direta do sistema de IA judicial foi classificada como uma conduta “perniciosa, abusiva e inaceitável” por um dos magistrados.
As Consequências para o Advogado
A reação da Justiça foi imediata e severa. O juiz reconheceu a existência de fraude processual e litigância de má-fé, rejeitando todos os pedidos do advogado nas ações.
Além disso, foi aplicada uma multa de 10 salários mínimos. O caso foi encaminhado para as seguintes instâncias:
- Ministério Público.
- Corregedoria-Geral da Justiça.
- Ordem dos Advogados do Brasil (OAB) de São Paulo e Santa Catarina.
Essa medida visa garantir a responsabilização ética e legal do profissional, servindo como um forte aviso contra práticas semelhantes.
Entendendo a “Prompt Injection” e Seus Riscos
A irregularidade foi detectada durante o uso supervisionado de ferramentas de IA pelos magistrados do TJSP. Este processo segue a Resolução CNJ n° 615/25, que proíbe decisões judiciais automatizadas sem revisão humana obrigatória.
A técnica utilizada pelo advogado é conhecida como “prompt injection”. Ela consiste em inserir comandos ocultos ou disfarçados para manipular o comportamento de sistemas de inteligência artificial.
Em IAs com poucas travas de segurança, pessoas mal-intencionadas exploram o fato de que sistemas automatizados podem interpretar a solicitação como um comando legítimo. Chatbots, por exemplo, baseados em probabilidade, muitas vezes não conseguem distinguir dados, comandos e contexto de forma eficaz.
Outros Casos de Manipulação com IA
O TJSP não foi o único a enfrentar essa situação. A Justiça do Trabalho também registrou um caso de manipulação de IA. Duas advogadas foram multadas por litigância de má-fé em Parauapebas (PA).
Elas inseriram na petição uma técnica de “prompt injection” com o objetivo de gerar resultados favoráveis à parte autora, demonstrando que a vigilância é fundamental em todas as esferas judiciais.
A Vigilância Necessária e o Futuro da IA na Justiça
Casos como este reforçam a importância da supervisão humana na aplicação da Inteligência Artificial, especialmente em áreas sensíveis como a Justiça. A IA é uma ferramenta poderosa, mas seu uso deve ser pautado pela ética e transparência.
A detecção dessas fraudes demonstra a capacidade da Justiça brasileira de se adaptar aos novos desafios tecnológicos. É crucial que profissionais do direito e desenvolvedores de IA colaborem para criar sistemas robustos e seguros, garantindo a integridade dos processos judiciais e a confiança na Justiça.
