Novo método de treino reduz viés político em modelos de IA
Pesquisadores lançaram um benchmark e técnica de treinamento que tornam respostas de IAs sobre temas políticos mais consistentes e imparciais.
Pontos principais
- O benchmark 'Polarized Contrastive Pairs' avalia a consistência de sentimento e a utilidade das respostas de modelos de IA.
- A técnica 'Political Consistency Training' (PCT) utiliza aprendizado por reforço para recompensar o equilíbrio retórico.
- O modelo Qwen3-14B, treinado com PCT, superou modelos de fronteira como Claude Fable 5 e GPT-5.6 Sol.
- O sistema atingiu 78,3% de consistência política média, superando os 60,3% do Claude Fable 5 e 57,7% do GPT-5.6 Sol.
- A pesquisa identifica que o viés político em IAs muitas vezes não é explícito, mas manifesta-se em inconsistências entre diferentes respostas.
- O estudo propõe uma taxonomia com 38 técnicas de manipulação política que modelos utilizam para enviesar conteúdos.
Pesquisadores desenvolveram uma nova abordagem para mitigar o viés político oculto em grandes modelos de linguagem (LLMs), um problema que frequentemente passa despercebido por se manifestar em inconsistências sutis de tom e ênfase em vez de posições declaradas. O estudo introduz o benchmark 'Polarized Contrastive Pairs', que utiliza pares de prompts opostos para medir se a IA mantém o mesmo nível de utilidade e neutralidade ao abordar temas divergentes. A técnica de treinamento associada, denominada Political Consistency Training (PCT), utiliza aprendizado por reforço para garantir que o modelo ofereça respostas substantivas e equilibradas, independentemente da orientação política do tópico. Em testes comparativos, o modelo Qwen3-14B, otimizado com essa metodologia, superou modelos de fronteira amplamente utilizados, atingindo uma consistência política de 78,3%.
Comentários
Carregando comentários...