Falta de transparência em sistemas de IA preocupa setor financeiro
Especialistas alertam que a opacidade de modelos de IA em bancos pode comprometer a supervisão e elevar riscos operacionais em transações.
Pontos principais
- Executivos apontam o problema da 'caixa-preta' em modelos de IA, onde decisões automatizadas não são facilmente auditáveis.
- A alta velocidade de transações dificulta a identificação imediata de erros sistêmicos ou falhas humanas.
- Históricos de instabilidade no mercado, como o 'flash crash' de 2010, servem de alerta para os riscos atuais.
- Estruturas de controle bancário ainda não acompanham a velocidade de implementação de novas ferramentas de IA.
- Instituições como Goldman Sachs e JP Morgan mantêm a expansão do uso de IA para aumentar a produtividade.
A crescente adoção de inteligência artificial por grandes instituições financeiras, como Goldman Sachs e JP Morgan, tem gerado alertas sobre os riscos operacionais associados à falta de transparência desses sistemas. O fenômeno da 'caixa-preta', no qual o processo decisório dos algoritmos não é facilmente verificável por humanos, levanta preocupações sobre a capacidade de supervisão em um ambiente de transações automatizadas de altíssima velocidade. Especialistas destacam que as estruturas de controle bancário atuais ainda estão defasadas em relação à rápida implementação dessas tecnologias. O setor utiliza como referência episódios passados de instabilidade, como o 'flash crash' de 2010 e o colapso da Knight Capital, para ilustrar como falhas sistêmicas podem escalar rapidamente. O desafio central reside em equilibrar o ganho de produtividade proporcionado pela IA com a necessidade de manter mecanismos de auditoria e segurança robustos contra erros sistêmicos.
Comentários
Carregando comentários...