Modelos de IA de código aberto da Mistral são vulneráveis a desinformação

Um estudo conduzido por pesquisadores da Estônia revelou que modelos de inteligência artificial de código aberto, incluindo os desenvolvidos pela europeia Mistral, possuem vulnerabilidades críticas na detecção e filtragem de desinformação. A pesquisa, que avaliou 60 modelos diferentes, destacou que o principal sistema da Mistral obteve apenas a 47ª posição no ranking de eficácia contra conteúdos falsos, reforçando a tese de que arquiteturas abertas são mais suscetíveis à manipulação do que sistemas proprietários. A relevância desses achados é amplificada pelo atual cenário geopolítico, onde atores estatais podem explorar essas falhas técnicas para disseminar narrativas falsas em larga escala. O debate coloca em xeque o equilíbrio entre a transparência do código aberto e a necessidade de salvaguardas robustas, forçando a indústria a repensar os protocolos de segurança em modelos de linguagem de grande escala.