OpenAI lança ferramentas para detectar e combater abuso sexual infantil
Empresa implementou classificador de imagens, avisos no ChatGPT e novas diretrizes para prevenir a exploração e o abuso sexual infantil online.
Pontos principais
- OpenAI disponibilizou um novo classificador de imagens para detectar material de abuso sexual infantil (CSAM) via API.
- Usuários que tentarem acessar ou criar conteúdo que sexualize crianças no ChatGPT receberão avisos e terão a conta suspensa por 24 horas.
- A iniciativa inclui um guia prático para desenvolvedores, criado em parceria com organizações como NCMEC e Tech Coalition.
- Ferramentas de análise de dados e treinamentos foram oferecidos para auxiliar unidades de investigação policial.
- O anúncio ocorre em meio a pressões crescentes sobre a segurança de menores em plataformas de inteligência artificial.
A OpenAI anunciou um conjunto de novas ferramentas e diretrizes voltadas ao combate à exploração e ao abuso sexual infantil online. Entre as principais medidas está o lançamento de um classificador de imagens capaz de detectar material de abuso sexual infantil (CSAM), incluindo conteúdos gerados por inteligência artificial, que será oferecido sem custo via API para organizações verificadas. A empresa também implementou novos mecanismos de segurança no ChatGPT, que exibirão avisos aos usuários caso identifiquem tentativas de acesso ou criação de material que sexualize crianças. Nessas situações, a conversa será removida e o acesso do usuário ao serviço será suspenso por 24 horas.
Para fortalecer a resposta a esses casos, a OpenAI desenvolveu um guia prático para desenvolvedores em colaboração com entidades especializadas, como a Tech Coalition, Thorn, NCMEC e a Internet Watch Foundation. Além disso, a companhia disponibilizou recursos de análise de dados e treinamentos específicos para forças policiais. Segundo a OpenAI, a implementação dessas ferramentas visa melhorar a detecção e a prevenção de conteúdos prejudiciais em suas plataformas, em um momento em que a empresa enfrenta críticas e processos judiciais relacionados aos riscos da tecnologia para menores de idade.
Fonte primária
Tópicos relacionados
Cobertura da mídia
OpenAI announces tools to combat CSAM, including an image classifier and new warning screens to prevent users from accessing material that sexualizes children (Ivan Mehta/TechCrunch)
Techmeme • 16 nov, 15:10
Strengthening the fight against online child sexual abuse with new tools and support
OpenAI Blog • 16 nov, 14:00
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
TechCrunch • 16 nov, 14:00
Leia também
OpenAI restringe acesso de adolescentes a informações sobre armas
30 out, 14:01
Meta implementa IA para combater anúncios que direcionam a abuso infantil
7 out, 14:01
OpenAI reforça segurança e monitoramento de modelos de IA avançados
18 ago, 16:15
OpenAI implementa novas ferramentas de segurança para adolescentes no ChatGPT
16 jul, 13:45
OpenAI declara apoio a projetos de lei sobre segurança digital e IA
13 mai, 13:02
Comentários (0)
Seja o primeiro a comentar.
