Modelos de IA de código aberto da Mistral são vulneráveis a desinformação

Um estudo conduzido por pesquisadores da Estônia revelou que modelos de inteligência artificial de código aberto, incluindo os desenvolvidos pela europeia Mistral, possuem vulnerabilidades críticas na detecção e filtragem de desinformação. A pesquisa indica que, ao contrário de sistemas de código fechado, as arquiteturas abertas são mais suscetíveis à propagação de conteúdos manipulados, o que levanta preocupações significativas sobre a segurança digital. A relevância desse achado é amplificada pelo atual cenário geopolítico, onde atores estatais, como a Rússia, podem explorar essas falhas técnicas para disseminar narrativas falsas em larga escala. O debate coloca em xeque o equilíbrio entre a transparência do código aberto e a necessidade de salvaguardas robustas contra campanhas de influência, forçando a indústria a repensar os protocolos de segurança em modelos de linguagem de grande escala.