Five Eyes publicam guia com mais de 100 práticas para adoção de IA agêntica
Documento lista 23 riscos e recomenda priorizar reversibilidade sobre eficiência ao implantar sistemas autônomos.
Pontos principais
- Agências dos EUA, Reino Unido, Austrália, Canadá e Nova Zelândia assinam guia conjunto
- Documento lista 23 riscos e mais de 100 práticas recomendadas
- Recomendação: assumir que sistemas agênticos podem se comportar de modo inesperado
- Priorizar reversibilidade e contenção de risco sobre ganhos de eficiência
- Inteligência de ameaças para IA agêntica ainda está em evolução
As agências de inteligência dos Five Eyes — CISA e NSA (EUA), NCSC (Reino Unido), ASD (Austrália), CCCS (Canadá) e NCSC-NZ (Nova Zelândia) — publicaram um guia conjunto para adoção de IA agêntica, sistemas que executam tarefas de forma autônoma.
O documento lista 23 riscos e mais de 100 práticas recomendadas, com tom cauteloso: organizações devem 'assumir que sistemas agênticos podem se comportar de modo inesperado' e priorizar 'resiliência, reversibilidade e contenção de risco sobre ganhos de eficiência'. As agências alertam que inteligência de ameaças para IA agêntica ainda é imatura, com OWASP e MITRE ATLAS focados apenas em LLMs.
Comentários
Carregando comentários...