Pesquisadores da USP criam sistema para detectar fake news por IA
Ferramenta desenvolvida pelo ICMC-USP identifica textos falsos gerados por inteligência artificial com mais de 99% de precisão.
Pontos principais
- O projeto Synestech.AI analisa vocabulário, sintaxe e complexidade silábica para distinguir autores humanos de máquinas.
- Testes realizados com o modelo Sabiá-3 atingiram mais de 99% de F1 em classificadores de machine learning.
- A tecnologia foi apresentada na 25ª Conferência Internacional sobre Inteligência Artificial (EPIA), em Portugal.
- A iniciativa envolve pesquisadores de diversas universidades brasileiras e encontra-se em fase de prova de conceito.
Pesquisadores do Instituto de Ciências Matemáticas e de Computação da USP desenvolveram uma ferramenta capaz de identificar notícias falsas produzidas por inteligência artificial em português. O sistema, batizado de Synestech.AI, utiliza algoritmos de machine learning para analisar características linguísticas específicas, como a complexidade silábica, o vocabulário empregado e as regras sintáticas dos textos. Em testes de laboratório utilizando conjuntos de dados que incluíram conteúdos gerados pelo modelo Sabiá-3, a tecnologia alcançou um índice de precisão superior a 99% na classificação da autoria.
O projeto, que conta com a colaboração de especialistas de diversas universidades brasileiras, foi apresentado recentemente na 25ª Conferência Internacional sobre Inteligência Artificial, realizada em Portugal. Atualmente, a solução encontra-se em fase de prova de conceito, representando um avanço significativo no combate à desinformação digital. A ferramenta busca oferecer uma camada adicional de segurança ao distinguir automaticamente conteúdos criados por humanos daqueles gerados por modelos de linguagem, mitigando os riscos associados à propagação de fake news automatizadas.