Como a falta de transparência dos sistemas de I.A. pode gerar riscos em grandes instituições financeiras?

Pontos principais

• Executivos do setor financeiro alertam para o problema da 'caixa-preta' em modelos de IA, onde decisões não são facilmente verificáveis.
• A alta velocidade e o volume de transações automatizadas dificultam a identificação rápida de erros humanos ou sistêmicos.
• Históricos de falhas de software, como o 'flash crash' de 2010 e o caso da Knight Capital, servem de alerta para os riscos atuais.
• Relatórios indicam que estruturas de controle bancário ainda estão atrasadas em relação à velocidade de implementação da IA.
• Apesar dos riscos, grandes bancos como Goldman Sachs e JP Morgan continuam expandindo o uso de ferramentas autônomas para ganho de produtividade.

Mencionado nesta matéria