Irã e China utilizam agentes de IA para criar perfis falsos em redes
Governos da China e do Irã empregam agentes autônomos de IA para automatizar a criação de perfis falsos e disseminar conteúdo político em redes sociais.
Pontos principais
- Agentes autônomos de IA automatizam a criação de contas e a publicação de mensagens em plataformas como X, Facebook e TikTok.
- Operadores contornaram proteções de modelos de código aberto para facilitar a manipulação de debates digitais.
- Ações semelhantes também foram identificadas por parte de empresas privadas ligadas a Israel.
- Especialistas classificam as campanhas atuais como rudimentares, mas alertam para a nova escala de influência digital.
Autoridades e pesquisadores identificaram que governos do Irã e da China têm utilizado agentes autônomos de inteligência artificial para gerenciar redes de perfis falsos em plataformas como Instagram, Facebook, X e TikTok. A tecnologia permite a automação de tarefas complexas, como a abertura de contas e o preenchimento de formulários, com mínima intervenção humana. Para viabilizar a estratégia, os operadores desativaram mecanismos de proteção de modelos de IA de código aberto, permitindo a disseminação automatizada de mensagens políticas.
Embora as campanhas tenham sido avaliadas como rudimentares e de baixo impacto até o momento, o uso dessas ferramentas sinaliza uma nova etapa na automação de operações de influência digital. Além das ações estatais, especialistas também detectaram atividades similares conduzidas por empresas privadas associadas a Israel. O cenário levanta preocupações sobre a capacidade de manipulação de debates públicos em larga escala através de sistemas de IA, exigindo maior vigilância das plataformas de redes sociais.
Comentários
Carregando comentários...