Pesquisa aponta falhas críticas na governança de agentes de IA nas empresas
Estudo da Ivanti revela que apenas 42% das equipes de TI identificam os donos de agentes de IA, expondo riscos de segurança e falta de controle.
Pontos principais
- Apenas 42% das equipes de TI sabem quem são os proprietários dos agentes de IA em uso, apesar de 85% afirmarem ter controle.
- Líderes organizacionais ocultam o uso de ferramentas de IA com o dobro da frequência dos demais funcionários.
- 68% dos profissionais de TI já presenciaram alucinações de IA que causaram impactos operacionais reais.
- A governança atual é considerada obsoleta por focar em revisões periódicas em vez de monitoramento em tempo real.
Uma pesquisa realizada pela Ivanti expõe um abismo entre a percepção e a realidade na gestão de inteligência artificial dentro das corporações. Embora a grande maioria das equipes de TI acredite manter o controle sobre os agentes de IA, menos da metade consegue identificar os responsáveis por essas ferramentas, fenômeno que favorece a proliferação da chamada 'IA sombra'. O problema é agravado pelo comportamento de lideranças, que frequentemente ocultam o uso de tecnologias de IA em busca de vantagens competitivas, ignorando protocolos de segurança. Com a previsão de que 46% das operações de TI sejam automatizadas nos próximos 18 meses, a falta de governança em tempo real torna-se um risco crítico. A necessidade de monitoramento constante é urgente, visto que processos tradicionais de revisão trimestral já não acompanham a velocidade de execução e as falhas operacionais causadas por alucinações da IA.
Comentários
Carregando comentários...