Coalizão propõe framework para padronizar relatos de incidentes em IA
Mais de 120 organizações criaram o SAFE, um sistema para notificar e analisar falhas de segurança em agentes de inteligência artificial.
Pontos principais
- O framework Shared AI Findings Exchange (SAFE) busca padronizar a notificação de falhas e comportamentos não autorizados em IA.
- O modelo exige que empresas preservem evidências detalhadas, como logs de prompts e credenciais, após a detecção de incidentes.
- Inspirado no sistema de aviação da NASA, o projeto utiliza o conceito de 'caixa-preta' para investigar causas de falhas técnicas.
- A proposta estabelece prazos rigorosos, exigindo relatórios confidenciais em até quatro dias úteis após o incidente.
- A iniciativa é liderada pela Open Secure AI Alliance e está em fase de consulta pública via Linux Foundation.
Uma coalizão composta por mais de 120 organizações apresentou o Shared AI Findings Exchange (SAFE), um novo framework voltado para a padronização de relatos de incidentes envolvendo agentes de inteligência artificial. A iniciativa, liderada pela Open Secure AI Alliance e hospedada pela Linux Foundation, busca criar um protocolo industrial para identificar falhas de segurança e comportamentos não autorizados em sistemas de IA. Inspirado nos sistemas de segurança da aviação da NASA, o modelo propõe o uso de 'caixas-pretas' para a preservação de dados críticos, incluindo logs de prompts e credenciais, permitindo uma análise técnica aprofundada. O projeto, que atualmente passa por consulta pública, estabelece prazos rigorosos para a notificação de eventos, exigindo que empresas enviem relatórios confidenciais em até quatro dias úteis. A medida visa aumentar a transparência e a segurança no desenvolvimento de tecnologias de IA, criando um padrão de resposta a riscos que impactam o setor.
Comentários
Carregando comentários...