Ferramenta remove travas de segurança de modelos de IA em minutos
O software Heretic permite eliminar proteções de modelos de código aberto, facilitando o uso indevido de IAs para fins perigosos.
Pontos principais
- A ferramenta Heretic utiliza uma técnica chamada 'abliteration' para remover automaticamente as diretrizes de recusa de modelos de IA.
- Testes realizados pelo Financial Times e pelo grupo Alice mostraram que modelos modificados forneceram instruções sobre ataques químicos e criação de vírus.
- O software é gratuito, está disponível no GitHub e não exige hardware especializado ou conhecimento técnico avançado.
- Desde seu lançamento no final do ano passado, o Heretic foi usado para criar mais de 3.500 modelos 'descensurados', com 13 milhões de downloads.
- A técnica afeta apenas modelos de código aberto, enquanto sistemas proprietários como ChatGPT e Claude permanecem protegidos por não terem seu código acessível.
- O Google reconheceu que a 'abliteration' é um desafio técnico conhecido para todos os modelos abertos e afirmou realizar avaliações internas de segurança.
Uma nova categoria de ferramentas de software tem permitido que usuários removam, em poucos minutos, as travas de segurança implementadas por desenvolvedores em modelos de inteligência artificial de código aberto. O software, conhecido como Heretic, utiliza um processo automatizado para identificar e eliminar as 'direções de recusa' do modelo, permitindo que a IA responda a solicitações sobre temas proibidos, como a fabricação de armas biológicas ou a criação de códigos maliciosos.
A facilidade com que essas proteções podem ser contornadas levanta preocupações entre especialistas sobre a segurança da tecnologia, uma vez que o acesso a modelos potentes não exige mais conhecimentos técnicos profundos. Enquanto empresas como Google e Meta enfrentam o desafio de manter a integridade de seus sistemas abertos, pesquisadores alertam que a disseminação dessas versões modificadas torna a regulação e o controle de riscos cada vez mais complexos para a sociedade.
Comentários
Carregando comentários...