Anthropic implementa novas defesas contra injeção de prompt

A Anthropic informou que conseguiu resolver, na prática, o problema de injeção de prompt em seus modelos mais recentes. A solução foi alcançada por meio da implementação de sondas de detecção de injeção integradas a todo o tráfego dos modelos, além da ativação do modo automático como padrão. Apesar do avanço, a empresa ressalta que o alinhamento de modelos, por si só, ainda não é suficiente para solucionar completamente a vulnerabilidade de injeção de prompt.