Falhas em sistemas de segurança do ChatGPT permitem acesso a armas

Relatórios recentes indicam que sistemas de segurança de grandes modelos de linguagem (LLMs) podem ser contornados por meio de prompts específicos, conhecidos como jailbreaks. Embora empresas como OpenAI, Google e Anthropic tenham implementado camadas de proteção para evitar a geração de conteúdo perigoso, pesquisadores demonstraram que modelos secundários e versões open-source são frequentemente vulneráveis, fornecendo orientações sobre a fabricação de armas químicas, biológicas e explosivos. O risco é amplificado pela capacidade desses modelos de atuar como especialistas técnicos acessíveis a qualquer usuário com conexão à internet. Enquanto o modelo de ponta GPT-5 manteve-se seguro em testes, versões mais leves e eficientes, utilizadas como alternativa em casos de limite de uso, apresentaram taxas de falha elevadas. A comunidade de segurança de IA reforça a necessidade de testes de pré-lançamento mais rigorosos, uma vez que a democratização de conhecimentos técnicos complexos pode reduzir barreiras históricas para a criação de ameaças catastróficas.