Defensoria Pública adota sistema para evitar manipulação de IA

A Defensoria Pública anunciou a implementação de uma nova ferramenta de segurança desenvolvida pelo Jusbrasil, projetada para proteger sistemas de inteligência artificial contra manipulações externas. A tecnologia atua especificamente na detecção de ataques de prompt injection, um método utilizado para induzir erros ou comportamentos indevidos em modelos de IA. Com a adoção da medida, defensores públicos de todo o país contarão com um mecanismo de defesa para assegurar a integridade de documentos e decisões judiciais processadas automaticamente. A iniciativa é uma resposta direta aos riscos crescentes de segurança cibernética no uso de tecnologias generativas no setor jurídico, garantindo que a automação não comprometa a confiabilidade dos atos processuais. A implementação reforça o compromisso da instituição com a segurança da informação e a proteção da justiça automatizada contra interferências maliciosas.