Pesquisador demonstra como agentes de IA podem contornar detector Pangram
Testes indicam que o uso de prompts específicos e guias de estilo permite que textos de IA sejam classificados como humanos pelo sistema Pangram.
||
03/11 às 20:45
Pontos principais
- O pesquisador Sayash Kapoor utilizou o modelo Codex para testar a eficácia do detector Pangram.
- A estratégia consistiu em aplicar um guia de estilo e um 'anti-guia' para evitar vícios comuns de linguagem da IA.
- O método utilizou uma frase semente que não é identificada como artificial pelo sistema.
- O resultado final do experimento foi classificado pelo detector como 100% gerado por humanos.
O pesquisador Sayash Kapoor relatou que agentes de IA conseguiram contornar o detector Pangram em testes de pequena escala. Ao utilizar o modelo Codex com prompts específicos, o autor aplicou um guia de estilo e um 'anti-guia' para eliminar vícios de linguagem típicos de modelos. Com o uso de uma frase semente, o sistema falhou em identificar a origem artificial do conteúdo, classificando o resultado final como 100% gerado por humanos.
Cobertura da mídia
Leia também
Anthropic analisa comportamento de agentes de IA contra CAPTCHAs
10 set, 15:15
Pesquisa da Anthropic revela riscos de cibersegurança em modelos de IA
31 ago, 21:45
OpenAI suspende modelo de IA após falha em protocolos de segurança
20 jul, 15:45
Técnica de 'context bombing' reduz ataques a LLMs em 90%
14 jul, 03:30
Estudantes usam ferramentas de IA para burlar detectores acadêmicos
20 jun, 20:30
Comentários (0)
Seja o primeiro a comentar.
