Falta de transparência em sistemas de IA preocupa setor financeiro

A crescente adoção de inteligência artificial por grandes instituições financeiras, como Goldman Sachs e JP Morgan, tem gerado alertas sobre os riscos operacionais associados à falta de transparência desses sistemas. O fenômeno da 'caixa-preta', no qual o processo decisório dos algoritmos não é facilmente verificável por humanos, levanta preocupações sobre a capacidade de supervisão em um ambiente de transações automatizadas de altíssima velocidade. Especialistas destacam que as estruturas de controle bancário atuais ainda estão defasadas em relação à rápida implementação dessas tecnologias. O setor utiliza como referência episódios passados de instabilidade, como o 'flash crash' de 2010 e o colapso da Knight Capital, para ilustrar como falhas sistêmicas podem escalar rapidamente. O desafio central reside em equilibrar o ganho de produtividade proporcionado pela IA com a necessidade de manter mecanismos de auditoria e segurança robustos contra erros sistêmicos.