---
title: "ChatGPT testa sistema para identificar e apoiar usuários com extremismo"
url: https://dailyjournal.news/news/2026-04-02/chatgpt-testa-sistema-para-identificar-e-apoiar-usuarios-com-extremismo
published: 2026-04-02T16:01:48.694045+00:00
updated: 2026-04-02T16:02:28.436+00:00
categories: ["technology"]
topics: ["saude-mental-redes-sociais", "inteligencia-artificial"]
source_count: 2
outlet_count: 2
language: pt-BR
publisher: "Daily Journal"
---

# ChatGPT testa sistema para identificar e apoiar usuários com extremismo

O ChatGPT, em parceria com a startup ThroughLine, está testando um sistema para identificar sinais de extremismo violento em usuários e encaminhá-los para apoio especializado, combinando atendimento humano e chatbots.

## Pontos principais

- A OpenAI, desenvolvedora do ChatGPT, está testando um sistema para identificar usuários com sinais de extremismo violento.
- A iniciativa visa encaminhar esses usuários para suporte especializado, combinando atendimento humano e chatbots.
- A startup neozelandesa ThroughLine, já contratada por empresas de IA como Anthropic e Google, é a responsável pela ferramenta.
- O sistema busca abordar preocupações com a segurança e o crescente número de processos judiciais contra empresas de IA.
- A tecnologia, ainda em fase de testes, não utiliza dados de treinamento de modelos de linguagem básicos para evitar vieses.
- A ThroughLine já oferece suporte para crises de saúde mental e está em negociações com o The Christchurch Call para orientação no desenvolvimento do chatbot anti-extremismo.

O ChatGPT, da OpenAI, está desenvolvendo um sistema para identificar usuários que demonstram sinais de extremismo violento e encaminhá-los para apoio especializado. A iniciativa é uma parceria com a startup neozelandesa ThroughLine, que já oferece uma rede de apoio para crises de saúde mental e agora expande para a prevenção de extremismo violento. A ferramenta combina atendimento humano e chatbots para fornecer suporte, com o fundador Elliot Taylor em negociações com o The Christchurch Call para orientação no desenvolvimento do chatbot.

Este desenvolvimento ocorre em meio a crescentes preocupações com a segurança e o aumento de processos judiciais contra empresas de inteligência artificial por não impedirem a violência. A tecnologia, ainda em fase de testes e sem data de lançamento definida, evita o uso de dados de treinamento de modelos de linguagem básicos para mitigar vieses. Especialistas ressaltam a importância da qualidade do acompanhamento e dos serviços de encaminhamento para o sucesso da ferramenta, alertando que a moderação excessiva sem suporte eficaz pode levar usuários a plataformas menos regulamentadas, como o Telegram.

## Fontes

- [Startup contratada por OpenAI e Anthropic planeja iniciativa contra o extremismo](https://www.infomoney.com.br/mundo/startup-contratada-por-openai-e-anthropic-planeja-iniciativa-contra-o-extremismo/) — InfoMoney (2026-04-02)
- [ChatGPT testa sistema para identificar extremismo e encaminhar usuários a suporte](https://g1.globo.com/tecnologia/noticia/2026/04/02/chatgpt-testa-sistema-para-identificar-extremismo-e-encaminhar-usuarios-a-suporte.ghtml) — G1 (2026-04-02)

## Tópicos relacionados

- [Saúde Mental e Redes Sociais](https://dailyjournal.news/topics/saude-mental-redes-sociais)
- [Inteligência Artificial](https://dailyjournal.news/topics/inteligencia-artificial)

---

Publicado por Daily Journal. Versão HTML: https://dailyjournal.news/news/2026-04-02/chatgpt-testa-sistema-para-identificar-e-apoiar-usuarios-com-extremismo