Prompt injection: como é feito 'código secreto' usado por advogadas para tentar sabotar processo
Duas advogadas foram multadas em R$ 84 mil no Pará após utilizarem a técnica de 'prompt injection' para tentar manipular a inteligência artificial Galileu, usada pelo Tribunal Regional do Trabalho.
|
14/05 às 00:00
Pontos principais
- O juiz Luis Carlos de Araujo Santos Júnior multou as advogadas por considerarem a manobra um ato contra a dignidade da Justiça.
- A técnica de 'prompt injection' consistiu na inserção de comandos ocultos em letras brancas dentro de um arquivo PDF.
- O objetivo das advogadas era forçar a IA Galileu a realizar uma análise superficial do documento para favorecer seu cliente.
- O sistema Galileu detectou os comandos e emitiu um alerta, permitindo que a equipe do tribunal realizasse uma verificação humana.
- As advogadas negaram a intenção de manipular a decisão judicial, alegando que buscavam proteger o cliente, e informaram que vão recorrer da multa.
Mencionado nesta matéria
Pessoas
Alcina Medeiros (advogada)Luanna Alves (advogada)Luis Carlos de Araujo Santos Júnior (juiz do trabalho)
Organizações
Tribunal Regional do Trabalho da 8ª Região (TRT-8)Tribunal Regional do Trabalho da 4ª Região (TRT-4)Preamble
Lugares
ParáParauapebas
