Defensoria Pública adota sistema para evitar manipulação de IA
A Defensoria Pública implementará tecnologia do Jusbrasil para proteger decisões judiciais contra ataques de prompt injection em sistemas de IA.
Pontos principais
- A ferramenta foi desenvolvida pela plataforma Jusbrasil para detectar tentativas de manipulação externa.
- O sistema foca em identificar ataques de prompt injection, técnica usada para induzir erros em modelos de inteligência artificial.
- A tecnologia será utilizada por defensores públicos em todo o território nacional.
- O objetivo central da iniciativa é garantir a integridade e a segurança de documentos e decisões judiciais automatizadas.
A Defensoria Pública anunciou a implementação de uma nova ferramenta de segurança desenvolvida pelo Jusbrasil, projetada para proteger sistemas de inteligência artificial contra manipulações externas. A tecnologia atua especificamente na detecção de ataques de prompt injection, um método utilizado para induzir erros ou comportamentos indevidos em modelos de IA. Com a adoção da medida, defensores públicos de todo o país contarão com um mecanismo de defesa para assegurar a integridade de documentos e decisões judiciais processadas automaticamente. A iniciativa é uma resposta direta aos riscos crescentes de segurança cibernética no uso de tecnologias generativas no setor jurídico, garantindo que a automação não comprometa a confiabilidade dos atos processuais. A implementação reforça o compromisso da instituição com a segurança da informação e a proteção da justiça automatizada contra interferências maliciosas.
Comentários
Carregando comentários...