Técnica de 'context bombing' reduz ataques a LLMs em 90%

Pesquisadores desenvolveram uma nova estratégia defensiva chamada 'context bombing' para proteger modelos de linguagem (LLMs) contra ataques de injeção de prompt. A técnica consiste em defensores inserirem comandos específicos em conteúdos que, ao serem processados por modelos de atacantes, forçam o acionamento imediato de guardrails de segurança. Ao ativar essas travas, o sistema impede que o modelo execute instruções maliciosas, neutralizando a tentativa de manipulação antes que ela seja concluída. De acordo com os testes realizados, a implementação dessa abordagem reduz a eficácia de ataques cibernéticos contra sistemas de IA em cerca de 90%. A descoberta, reportada pelo portal Ars Technica, destaca uma mudança tática no campo da cibersegurança, onde defensores passam a utilizar as próprias vulnerabilidades de processamento dos modelos como uma ferramenta de proteção ativa contra agentes maliciosos.