Estudo aponta divergências morais entre IA e humanos em decisões médicas
Pesquisa da Penn State revela que chatbots de IA simplificam dilemas éticos de transplantes, ignorando a complexidade das escolhas humanas.
Pontos principais
- Pesquisadores da Penn State testaram a tomada de decisão de IAs em cenários de alocação de rins.
- Modelos de IA demonstraram excesso de confiança e preferência por critérios isolados.
- Diferente de humanos, as IAs evitam a indecisão e raramente recorrem a métodos aleatórios.
- Os resultados foram apresentados na conferência FAccT de 2026.
- Especialistas alertam para os riscos de integrar IA em decisões de alto impacto social.
Um estudo conduzido pela Penn State, apresentado na conferência Fairness, Accountability and Transparency (FAccT) de 2026, revelou que modelos de inteligência artificial divergem significativamente dos valores humanos ao enfrentar dilemas morais. Ao analisar cenários hipotéticos de alocação de órgãos, pesquisadores observaram que os chatbots tendem a simplificar critérios complexos e exibir um excesso de confiança, optando por respostas determinísticas mesmo em situações onde humanos reconheceriam a necessidade de ponderação ou incerteza.
A pesquisa destaca que, enquanto participantes humanos frequentemente demonstram hesitação diante de escolhas difíceis, a IA prioriza fatores isolados sem considerar as nuances éticas envolvidas. O professor Hadi Hosseini, um dos responsáveis pelo estudo, ressalta que é fundamental compreender profundamente o comportamento dessas tecnologias antes de permitir sua integração em processos decisórios de alto impacto, como na área da saúde, onde a subjetividade e a responsabilidade moral são indispensáveis.
Comentários
Carregando comentários...