Advogados usam textos invisíveis para manipular IA em tribunais

Tribunais brasileiros têm registrado tentativas de manipulação de sistemas de inteligência artificial por meio de técnicas de 'prompt injection', onde advogados inserem comandos invisíveis em petições para induzir decisões automatizadas. No Tribunal de Justiça de São Paulo (TJ-SP), foram identificados documentos processuais que utilizavam fonte branca sobre fundo branco para ocultar instruções destinadas a manipular a interpretação de ferramentas de IA utilizadas por juízes e assessores. A prática, que também ocorre em estados como Pará, Minas Gerais e Paraíba, já resultou na aplicação de multas e na abertura de investigações, sendo apontada por especialistas como apenas a ponta do iceberg em um desafio crescente para a integridade do Judiciário.

Em resposta, o Conselho Nacional de Justiça (CNJ) reafirmou a obrigatoriedade da revisão humana em todas as decisões judiciais e avalia novas diretrizes de segurança. Paralelamente, as cortes começaram a implementar 'comandos defensivos' em seus algoritmos, instruindo as ferramentas a ignorar instruções maliciosas inseridas pelas partes. O cenário acende um alerta sobre a necessidade de maior rigor na verificação de documentos digitais e a urgência de aprimorar a governança tecnológica para garantir que a automação não comprometa a confiabilidade das decisões judiciais.