Inovabra e USP firmam parceria para reforçar segurança de agentes de IA
O hub de inovação do Bradesco se une à USP para desenvolver camadas de proteção contra vulnerabilidades em sistemas de inteligência artificial.
Pontos principais
- A parceria visa mapear brechas de segurança em agentes de IA com autonomia para tomada de decisões.
- O projeto envolve especialistas em cibersegurança, IA e linguística para mitigar riscos como a injeção de prompt.
- Resultados da pesquisa já são aplicados na plataforma Bridge, que gerencia mais de 700 casos de uso no banco.
- O foco inclui o aprimoramento de filtros de conteúdo, controle de acesso e mecanismos de validação para operações críticas.
- A próxima etapa da colaboração prevê a implementação de sistemas de gestão de incidentes com diagnóstico e intervenção em tempo real.
O inovabra, hub de inovação do Bradesco, estabeleceu uma colaboração estratégica com a Universidade de São Paulo (USP) para elevar os padrões de segurança dos agentes de inteligência artificial utilizados pela instituição financeira. O projeto multidisciplinar reúne pesquisadores de áreas como cibersegurança, IA e linguística com o objetivo de identificar e neutralizar vulnerabilidades, incluindo ataques de injeção de prompt que podem comprometer sistemas autônomos. As inovações desenvolvidas já estão sendo integradas à plataforma Bridge, responsável pela gestão de mais de 700 casos de uso de IA no banco. A iniciativa é fundamental para garantir a integridade de operações críticas, focando em filtros de conteúdo e validações robustas. O próximo passo da parceria é o desenvolvimento de uma gestão de incidentes autônoma, capaz de diagnosticar e intervir em tempo real, aumentando a resiliência tecnológica do banco frente a ameaças emergentes.
Comentários
Carregando comentários...