Especialistas propõem novo framework para gestão de riscos em IA

A rápida evolução dos sistemas de inteligência artificial tem desafiado as práticas tradicionais de cibersegurança, que se mostram ineficazes diante de modelos que se automodificam constantemente. Para mitigar riscos emergentes, como a injeção de prompts, o envenenamento de dados e a proliferação de 'shadow AI', especialistas defendem a transição de auditorias estáticas para estruturas de monitoramento contínuo. O framework proposto pelo NIST AI RMF, baseado em pilares como governança e resposta a incidentes, surge como uma referência para organizações que buscam maior resiliência digital.

Além de fortalecer a segurança técnica, a adoção de uma linguagem padronizada de risco facilita o alinhamento com regulamentações internacionais rigorosas, como o EU AI Act e a ISO 42001. A recomendação atual é que empresas implementem conselhos de governança multifuncionais e realizem auditorias frequentes para identificar vulnerabilidades ocultas, garantindo que a inovação tecnológica ocorra dentro de parâmetros de conformidade e segurança global.