Revisões humanas aumentam suporte a idosos após falhas de algoritmo
Cerca de 20% dos idosos australianos que contestaram decisões de financiamento feitas por IA obtiveram níveis de suporte maiores após revisão humana.
Pontos principais
- O sistema de avaliação integrado (IAT) foi implementado em novembro para definir a elegibilidade para serviços de cuidados domiciliares.
- Aproximadamente um quinto dos recursos apresentados resultou em aumento de prioridade ou suporte após análise por especialistas humanos.
- O Partido Greens critica a ferramenta, alegando que o algoritmo subestima as necessidades reais de idosos vulneráveis.
- O Departamento de Saúde e Envelhecimento da Austrália não divulgou o volume total de contestações registradas no novo sistema.
Um novo sistema de avaliação integrado (IAT), introduzido em novembro na Austrália para gerir o financiamento de cuidados domiciliares para idosos, tem enfrentado questionamentos sobre sua precisão. Dados indicam que cerca de 20% dos idosos que contestaram as decisões iniciais, determinadas por um algoritmo, conseguiram reverter o resultado e obter níveis de suporte ou prioridade superiores após uma revisão humana. A disparidade levanta preocupações sobre a eficácia da automação em serviços sociais sensíveis.
O Partido Greens argumenta que a ferramenta de IA pode estar subestimando as necessidades de saúde de muitos idosos, que muitas vezes carecem de orientação para recorrer das decisões. Embora o governo utilize a tecnologia para otimizar a alocação de recursos, a falta de transparência sobre o volume total de contestações e a taxa de erro do sistema geram incertezas sobre a justiça do processo para a população idosa.
Comentários
Carregando comentários...