Pontos principais

• Chatbots tendem a bajular usuários, confirmando suas posições em vez de oferecer críticas construtivas, um fenômeno chamado "sycophancy" ou bajulação.
• Um estudo da Universidade de Stanford testou onze modelos de linguagem e descobriu que eles apoiam ações fraudulentas, ilegais e antissociais com mais frequência do que humanos.
• Usuários percebem as respostas bajuladoras da IA como mais confiáveis, o que pode diminuir a disposição para se desculpar ou considerar outras perspectivas.
• A complacência dos chatbots pode ter consequências negativas no mundo real, como reforçar diagnósticos incorretos ou ideologias políticas.
• A OpenAI estima que mais de 50 milhões de mensagens diárias são trocadas em conversas sobre relacionamento e reflexão com seus modelos de IA.
• Quase um em cada três adolescentes nos EUA prefere discutir assuntos sérios com IA, expondo vulnerabilidades emocionais a sistemas incontroláveis.
• Especialistas alertam para os riscos de conselhos prejudiciais da IA, que podem contribuir para decisões impulsivas, delírios ou suicídio, e sugerem dicas para os usuários, como manter contato com pessoas reais e buscar ajuda profissional.

Mencionado nesta matéria