Cisco lança ferramenta para verificar linhagem de modelos de IA

A Cisco introduziu o AI Supply Chain Provenance Explorer, uma ferramenta gratuita desenvolvida para auditar a linhagem de modelos de IA de código aberto. A plataforma utiliza análise técnica de pesos e comportamento para validar a origem dos modelos, superando a dependência de metadados autodeclarados em repositórios como o Hugging Face, que frequentemente carecem de verificação. Com uma precisão de 96,4% em testes internos, o sistema identifica a ascendência real dos modelos, combatendo a falta de transparência no setor.

Esta iniciativa é relevante para a segurança cibernética, permitindo que organizações identifiquem vulnerabilidades herdadas de modelos base e garantam conformidade com regulamentações rigorosas, como a Lei de IA da União Europeia. Ao mapear a linhagem de quase 900 modelos, a Cisco busca mitigar riscos na cadeia de suprimentos de IA, onde a segurança é muitas vezes baseada em suposições incompletas sobre a procedência dos algoritmos.