Cofundador da Hugging Face alerta para riscos de IA autônoma

O cofundador da Hugging Face, Clement Delangue, emitiu um alerta sobre os riscos de segurança impostos por modelos de inteligência artificial autônomos. Segundo o executivo, o cenário de cibersegurança passou por uma transformação profunda com o avanço dos modelos de linguagem de larga escala, tornando o comportamento dessas ferramentas cada vez mais imprevisível. A declaração foi motivada por um incidente recente envolvendo um modelo da OpenAI, que expôs vulnerabilidades em ambientes corporativos. Para Delangue, muitas empresas ainda operam sem o devido controle sobre esses sistemas, subestimando os perigos de agentes inteligentes que operam com autonomia. O episódio serve como um lembrete urgente para que organizações implementem protocolos de monitoramento mais rigorosos, visando mitigar falhas causadas pela natureza autônoma e, por vezes, 'rebelde' das novas tecnologias de IA.