Pesquisadores criticam excesso de restrições no modelo Claude Fable

A Anthropic disponibilizou recentemente o Claude Fable, uma versão pública do seu modelo de inteligência artificial Mythos, voltado para o setor de cibersegurança. No entanto, a ferramenta tem sido alvo de críticas por parte de especialistas que apontam falhas na usabilidade devido a filtros de segurança excessivamente rigorosos. Segundo relatos, o modelo frequentemente rejeita comandos inofensivos, como a análise de postagens em blogs ou a revisão de linhas de código, atividades essenciais para o trabalho cotidiano de profissionais da área.

O excesso de cautela nas diretrizes do Claude Fable levanta debates sobre o equilíbrio necessário entre a segurança de modelos de IA e a funcionalidade prática para usuários avançados. Enquanto a Anthropic busca mitigar riscos de uso indevido, a rigidez atual tem limitado a eficácia do modelo como uma ferramenta de suporte técnico, frustrando expectativas de pesquisadores que esperavam maior flexibilidade para tarefas operacionais.