Especialistas defendem design focado em falhas para adoção de IA

Durante o AI Forum, especialistas destacaram que a imprevisibilidade dos grandes modelos de linguagem deve ser tratada como uma característica inerente, e não como um erro de sistema. A rápida implementação de inteligência artificial nas empresas tem superado a capacidade de governança, levando funcionários a utilizarem ferramentas sem supervisão da TI, o que eleva os riscos de vazamento de dados. Para mitigar essas ameaças, a recomendação é que a segurança seja integrada desde a fase de desenvolvimento, com controles adaptados ao nível de risco de cada operação. Além disso, a crescente automação de ataques cibernéticos impulsionada por IA exige que as organizações utilizem a própria tecnologia para fortalecer suas defesas. A estratégia central para as empresas é oferecer alternativas corporativas seguras e intuitivas, desencorajando o uso de soluções externas não autorizadas.