Pontos principais

• A startup ThroughLine, parceira de OpenAI, Anthropic e Google, está desenvolvendo uma ferramenta para combater o extremismo violento online.
• A iniciativa visa encaminhar usuários com tendências extremistas detectadas por IA para serviços de desradicalização e apoio humano.
• A ThroughLine já oferece suporte para crises de saúde mental como automutilação e violência doméstica, conectando usuários a linhas de apoio em 180 países.
• O fundador Elliot Taylor está em negociações com o The Christchurch Call para orientação no desenvolvimento do chatbot anti-extremismo.
• A ferramenta será um modelo híbrido, com um chatbot treinado por especialistas e encaminhamentos para serviços de saúde mental presenciais.
• A tecnologia está em fase de testes, sem data de lançamento definida, e busca evitar que usuários se isolem ao serem bloqueados por plataformas.
• A preocupação é que a moderação excessiva leve extremistas para plataformas menos regulamentadas, como o Telegram.

Mencionado nesta matéria