Pesquisadores da Anthropic demonstram IA com autoaperfeiçoamento

Pesquisadores da Anthropic divulgaram avanços significativos no desenvolvimento de sistemas de inteligência artificial com capacidade de autoaperfeiçoamento. O estudo demonstra que modelos de linguagem podem ser treinados para identificar e corrigir comportamentos desalinhados de forma automatizada, sem que isso resulte em uma degradação da performance geral da ferramenta. A equipe submeteu a tecnologia a dez benchmarks específicos, observando melhorias consistentes em todos os cenários testados. Esse progresso é relevante para a segurança da IA, pois sugere uma via para tornar sistemas complexos mais alinhados aos valores humanos e menos propensos a falhas de comportamento, mantendo a eficiência operacional. A capacidade de um modelo otimizar seu próprio funcionamento sem intervenção humana constante representa um passo importante na pesquisa de segurança e robustez de sistemas de machine learning.