Estudo de Oxford aponta que LLMs inserem vieses em interações
Pesquisa revela que modelos de IA alteram o sentido de mensagens de usuários, inserindo inclinações políticas que podem distorcer o debate público.
Pontos principais
- Pesquisadores de Oxford e Potsdam analisaram como LLMs de empresas como Google, Meta e xAI reescrevem textos de usuários.
- Ferramentas de IA frequentemente inserem vieses políticos, mesmo quando instruídas a manter a neutralidade do conteúdo original.
- Modelos da Meta, Google, Alibaba e Mistral apresentaram inclinação progressista, enquanto o Grok, da xAI, demonstrou viés conservador.
- A manipulação de mensagens pode impactar a opinião pública a longo prazo devido à escala de milhões de interações diárias.
- O estudo destaca uma lacuna regulatória, indicando que leis atuais, como a da União Europeia, não cobrem adequadamente esse fenômeno.
Um estudo conduzido pelas universidades de Oxford e Potsdam revelou que modelos de linguagem (LLMs) frequentemente alteram o sentido original de postagens de usuários, inserindo vieses políticos durante o processo de reescrita. A análise abrangeu ferramentas de grandes empresas de tecnologia, constatando que, enquanto modelos da Meta, Google, Alibaba e Mistral tendem a apresentar inclinações progressistas, o Grok, da xAI, inclina-se para o espectro conservador. Essa distorção ocorre mesmo quando o sistema é instruído a preservar o significado original do texto. A relevância desse fenômeno reside na capacidade de tais modelos influenciarem a opinião pública em larga escala, à medida que interagem com milhões de usuários. Os pesquisadores alertam para uma lacuna crítica na governança tecnológica, ressaltando que regulamentações vigentes, como a Lei de IA da União Europeia, ainda não possuem mecanismos eficazes para conter a propagação desses vieses algorítmicos.
Comentários
Carregando comentários...