Estudos mostram que pacientes raramente extraem informação médica útil da IA
Pesquisas recentes indicam que pacientes comuns têm dificuldade em obter informações médicas precisas de ferramentas de inteligência artificial, como ChatGPT, que falham em identificar falácias, especialmente em jargão clínico.
Pontos principais
- Leigos obtêm diagnósticos corretos em apenas 34,5% dos casos usando IA, contra 94,9% de cientistas, segundo Oxford.
- Estudo do Mount Sinai revelou que LLMs falham em identificar 31,7% das informações médicas incorretas, piorando com jargão clínico.
- Modelos avançados como ChatGPT 4.0 ainda deixaram passar 10,6% dos erros médicos.
- A falha é atribuída à diferença na formulação de perguntas entre leigos e profissionais, e à interpretação errônea pela IA.
- É prematuro confiar em chatbots de IA como fonte primária de informação médica ou para triagem de pacientes, sugerem os estudos.
Estudos recentes da Universidade de Oxford e do Mount Sinai revelam que pacientes comuns raramente conseguem extrair informações médicas úteis de ferramentas de inteligência artificial, como ChatGPT e Llama. A qualidade da informação fornecida por IA cai drasticamente quando utilizada por leigos, que obtêm diagnósticos corretos em apenas 34,5% dos casos, em contraste com 94,9% dos cientistas. Essa disparidade é atribuída à forma como as perguntas são formuladas e à interpretação errônea por parte da IA.
Além disso, os grandes modelos de linguagem (LLMs) demonstram falha em identificar 31,7% das informações médicas incorretas, sendo menos eficazes com jargão clínico. Mesmo modelos mais avançados, como o ChatGPT 4.0, deixaram passar 10,6% dos erros. Os pesquisadores alertam que é prematuro confiar em chatbots de IA como fonte primária de informação médica ou para triagem de pacientes, destacando a necessidade de cautela na adoção dessas tecnologias na saúde.
Comentários
Carregando comentários...
