Box defende nova governança para agentes de IA autônomos

A executiva de segurança da Box, Heather Ceylan, defende que as estruturas tradicionais de permissão e identidade são insuficientes para governar agentes de IA autônomos. Devido à alta escala de processamento dessas ferramentas, que supera a capacidade humana de supervisão, a empresa sugere uma abordagem de segurança em camadas. O modelo foca na governança da execução, restringindo as permissões do agente apenas ao necessário para cada etapa específica de uma tarefa, em vez de conceder acesso amplo. A estratégia da Box classifica as ações dos agentes em níveis de risco, exigindo intervenção humana em operações críticas. A empresa ressalta que a falta de metadados e logs detalhados em sistemas legados impede uma governança eficaz, tornando essencial a implementação de guardrails e a construção de confiança baseada na observação contínua do comportamento da IA.