Daily Journal
Daily Journal

Pesquisador demonstra como agentes de IA podem contornar detector Pangram

Testes indicam que o uso de prompts específicos e guias de estilo permite que textos de IA sejam classificados como humanos pelo sistema Pangram.

Daily Journal
||
03/11 às 20:45

Pontos principais

  • O pesquisador Sayash Kapoor utilizou o modelo Codex para testar a eficácia do detector Pangram.
  • A estratégia consistiu em aplicar um guia de estilo e um 'anti-guia' para evitar vícios comuns de linguagem da IA.
  • O método utilizou uma frase semente que não é identificada como artificial pelo sistema.
  • O resultado final do experimento foi classificado pelo detector como 100% gerado por humanos.

O pesquisador Sayash Kapoor relatou que agentes de IA conseguiram contornar o detector Pangram em testes de pequena escala. Ao utilizar o modelo Codex com prompts específicos, o autor aplicou um guia de estilo e um 'anti-guia' para eliminar vícios de linguagem típicos de modelos. Com o uso de uma frase semente, o sistema falhou em identificar a origem artificial do conteúdo, classificando o resultado final como 100% gerado por humanos.

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.