Meta usa IA e LLMs para combater exploração sexual infantil em anúncios
A Meta diz ter reforçado a revisão de anúncios com modelos de linguagem que detectam anúncios usados para encaminhar usuários a conteúdo de exploração sexual infantil fora da plataforma.
Pontos principais
- Modelos de linguagem detectam o 'signposting': anúncios aparentemente inofensivos que, segundo a Meta, levam de forma encoberta a conteúdo ilegal fora das plataformas.
- A Meta passou a avaliar também para onde o anúncio leva, e não só o que ele mostra.
- Entre janeiro e junho de 2026, a Meta diz ter tomado providências sobre 33,2 milhões de conteúdos de exploração sexual infantil no Facebook e no Instagram, no mundo; mais de 97% foram identificados antes de qualquer denúncia.
- Na Índia, foram 5,3 milhões de conteúdos no mesmo período, com mais de 98% identificados antes de qualquer denúncia.
- Ao identificar o esquema, a Meta ampliou a investigação além dos anúncios denunciados, desativou as contas envolvidas e bloqueou os links externos.
- Um agente de IA de red-teaming sonda as defesas da própria Meta para achar fraquezas antes que novas táticas escalem.
- A Meta reforçou a detecção de reincidência, para identificar quem cria novas contas depois de ser removido.
- Em setembro, a Meta anunciou que vai reportar casos de segurança infantil diretamente ao Portal Nacional de Denúncias de Crimes Cibernéticos da Índia (cybercrime.gov.in), operado pelo Centro Indiano de Coordenação de Crimes Cibernéticos (I4C).
A Meta diz que a revisão de anúncios ganhou ferramentas novas porque predadores passaram a usar peças aparentemente inofensivas para levar usuários, de forma encoberta, a material ilegal hospedado fora das plataformas. Links já bloqueados passam a ser barrados no envio: anúncios que os contenham são rejeitados.
Para material já conhecido, a empresa diz usar o PhotoDNA em todos os seus aplicativos desde 2011, e compartilha os hashes novos com o setor pelo programa Lantern, da Tech Coalition. Os casos são reportados às autoridades com apoio do NCMEC. A Meta afirma que continua investigando como essas redes se comportam, para agir sobre elas em nível de rede e não apenas conta a conta, com equipes manuais que incluem ex-investigadores do FBI. As varreduras por IA usam sinais que a empresa diz continuar ampliando à medida que a investigação avança.
Cobertura da mídia
Comentários
Carregando comentários...