Inovabra e USP firmam parceria para reforçar segurança de agentes de IA

O inovabra, hub de inovação do Bradesco, estabeleceu uma colaboração estratégica com a Universidade de São Paulo (USP) para elevar os padrões de segurança dos agentes de inteligência artificial utilizados pela instituição financeira. O projeto multidisciplinar reúne pesquisadores de áreas como cibersegurança, IA e linguística com o objetivo de identificar e neutralizar vulnerabilidades, incluindo ataques de injeção de prompt que podem comprometer sistemas autônomos. As inovações desenvolvidas já estão sendo integradas à plataforma Bridge, responsável pela gestão de mais de 700 casos de uso de IA no banco. A iniciativa é fundamental para garantir a integridade de operações críticas, focando em filtros de conteúdo e validações robustas. O próximo passo da parceria é o desenvolvimento de uma gestão de incidentes autônoma, capaz de diagnosticar e intervir em tempo real, aumentando a resiliência tecnológica do banco frente a ameaças emergentes.