Usuários contornam filtros de segurança de IAs para criar armas

Relatos de funcionários de laboratórios de inteligência artificial indicam que usuários têm conseguido contornar filtros de segurança em chatbots para obter instruções perigosas. As consultas envolvem o planejamento de ataques com vítimas em massa e a fabricação de agentes biológicos, expondo vulnerabilidades críticas nos sistemas atuais. Esse cenário reflete um desafio crescente para as empresas de tecnologia, que lutam para equilibrar o avanço das capacidades de seus modelos com a necessidade de impedir o acesso a conteúdos nocivos. A dinâmica é descrita como um jogo de gato e rato, onde desenvolvedores precisam atualizar constantemente seus sistemas de segurança para mitigar riscos à medida que novos métodos de manipulação são descobertos por usuários mal-intencionados. A situação levanta preocupações sobre o uso indevido de ferramentas de IA em larga escala.