Inovabra e USP firmam parceria para reforçar segurança de agentes de IA
O hub de inovação do Bradesco se une à USP para desenvolver camadas de proteção contra vulnerabilidades em sistemas de inteligência artificial.
Pontos principais
- A parceria visa mapear brechas de segurança em agentes de IA com autonomia para tomada de decisões.
- O projeto envolve especialistas em cibersegurança, IA e linguística para mitigar riscos como a injeção de prompt.
- Resultados da pesquisa já são aplicados na plataforma Bridge, que gerencia mais de 700 casos de uso no banco.
- O foco inclui o aprimoramento de filtros de conteúdo, controle de acesso e mecanismos de validação para operações críticas.
- A próxima etapa da colaboração prevê a implementação de sistemas de gestão de incidentes com diagnóstico e intervenção em tempo real.
O inovabra, hub de inovação do Bradesco, estabeleceu uma colaboração estratégica com a Universidade de São Paulo (USP) para elevar os padrões de segurança dos agentes de inteligência artificial utilizados pela instituição financeira. O projeto multidisciplinar reúne pesquisadores de áreas como cibersegurança, IA e linguística com o objetivo de identificar e neutralizar vulnerabilidades, incluindo ataques de injeção de prompt que podem comprometer sistemas autônomos. As inovações desenvolvidas já estão sendo integradas à plataforma Bridge, responsável pela gestão de mais de 700 casos de uso de IA no banco. A iniciativa é fundamental para garantir a integridade de operações críticas, focando em filtros de conteúdo e validações robustas. O próximo passo da parceria é o desenvolvimento de uma gestão de incidentes autônoma, capaz de diagnosticar e intervir em tempo real, aumentando a resiliência tecnológica do banco frente a ameaças emergentes.
Cobertura da mídia
Leia também
USP e 99 firmam parceria para pesquisar impacto da IA no trabalho
31 jul, 16:45
CEIA/UFG, Inovabra e AKCIT lançam programa para escalar startups de IA
23 jul, 06:02
USP e governo de SP criam centro de IA para analisar leis e decretos
24 jun, 11:10
Pesquisadores da USP criam IA de baixo custo para agilizar processos judiciais
23 jun, 16:35
Oracle integra inteligência artificial diretamente a bancos de dados
22 mai, 14:34
Comentários (0)
Seja o primeiro a comentar.