Falta de transparência em sistemas de IA preocupa setor financeiro
Especialistas alertam que a opacidade de modelos de IA em bancos pode comprometer a supervisão e elevar riscos operacionais em transações.
Pontos principais
- Executivos apontam o problema da 'caixa-preta' em modelos de IA, onde decisões automatizadas não são facilmente auditáveis.
- A alta velocidade de transações dificulta a identificação imediata de erros sistêmicos ou falhas humanas.
- Históricos de instabilidade no mercado, como o 'flash crash' de 2010, servem de alerta para os riscos atuais.
- Estruturas de controle bancário ainda não acompanham a velocidade de implementação de novas ferramentas de IA.
- Instituições como Goldman Sachs e JP Morgan mantêm a expansão do uso de IA para aumentar a produtividade.
A crescente adoção de inteligência artificial por grandes instituições financeiras, como Goldman Sachs e JP Morgan, tem gerado alertas sobre os riscos operacionais associados à falta de transparência desses sistemas. O fenômeno da 'caixa-preta', no qual o processo decisório dos algoritmos não é facilmente verificável por humanos, levanta preocupações sobre a capacidade de supervisão em um ambiente de transações automatizadas de altíssima velocidade. Especialistas destacam que as estruturas de controle bancário atuais ainda estão defasadas em relação à rápida implementação dessas tecnologias. O setor utiliza como referência episódios passados de instabilidade, como o 'flash crash' de 2010 e o colapso da Knight Capital, para ilustrar como falhas sistêmicas podem escalar rapidamente. O desafio central reside em equilibrar o ganho de produtividade proporcionado pela IA com a necessidade de manter mecanismos de auditoria e segurança robustos contra erros sistêmicos.
Cobertura da mídia
Leia também
Indústria de inteligência artificial defende autorregulação
30 set, 12:15
Uso de IA em Wall Street gera alerta sobre concentração de mercado
1 jul, 07:45
BIS alerta que colapso no setor de IA e dívidas ameaçam estabilidade global
28 jun, 06:31
Wall Street demonstra cautela com investimentos em inteligência artificial
11 jun, 07:31
Regulador britânico alerta para riscos de IA na cibersegurança bancária
4 jun, 01:31
Comentários (0)
Seja o primeiro a comentar.
