Pesquisadores criticam excesso de restrições no modelo Claude Fable

A Anthropic disponibilizou recentemente o Claude Fable, uma versão pública do seu modelo de inteligência artificial Mythos, voltado para o setor de cibersegurança. No entanto, a ferramenta tem sido alvo de críticas por parte de especialistas que apontam falhas na usabilidade devido a filtros de segurança excessivamente rigorosos. Segundo relatos de desenvolvedores e pesquisadores, o modelo frequentemente rejeita comandos inofensivos, como a análise de postagens em blogs ou a revisão de linhas de código, atividades essenciais para o trabalho cotidiano. O excesso de cautela levanta debates sobre o equilíbrio entre a segurança de modelos de IA e a funcionalidade prática para usuários avançados. Em resposta à repercussão negativa, a Anthropic afirmou que pretende oferecer acesso sem restrições para a comunidade científica, buscando mitigar a frustração com a rigidez atual do sistema.