Candidatos tentam manipular sistemas de recrutamento com injeção de prompt
Candidatos usam comandos ocultos em currículos para influenciar IAs de seleção, mas a estratégia tem se mostrado ineficaz na prática.
Pontos principais
- Cerca de 70% das empresas brasileiras já utilizam inteligência artificial em processos de recrutamento e seleção.
- A técnica consiste em inserir comandos invisíveis, como texto branco sobre fundo branco, para tentar manipular a análise do documento.
- Sistemas modernos de triagem são capazes de ignorar esses comandos ou identificá-los como campos desconhecidos.
- Especialistas distinguem a injeção de prompt do jailbreaking, focando na manipulação da interpretação de dados em vez de contornar restrições.
Candidatos a vagas de emprego têm adotado a técnica de injeção de prompt em currículos na tentativa de manipular softwares de recrutamento baseados em inteligência artificial. O método envolve a inserção de comandos invisíveis, frequentemente escritos em texto branco sobre fundo branco, com o objetivo de influenciar a interpretação dos modelos de linguagem utilizados pelas empresas. No Brasil, onde aproximadamente 70% das companhias já integram IA em seus processos seletivos, a prática tem ganhado visibilidade, embora especialistas alertem para sua baixa eficácia. Sistemas de triagem atuais são desenvolvidos para ignorar instruções estranhas ou classificá-las como campos irrelevantes, tornando a tentativa de manipulação inócua. O fenômeno reflete uma tendência observada em outros setores, como em petições judiciais e avaliações acadêmicas, onde usuários buscam contornar a análise automatizada de documentos por meio de comandos ocultos.
Comentários
Carregando comentários...