Pesquisadores criticam restrições de segurança no modelo Fable da Anthropic

Pesquisadores de cibersegurança manifestaram descontentamento com o novo modelo Fable, desenvolvido pela Anthropic. Segundo especialistas, as guardrails implementadas no sistema são excessivamente restritivas, o que impede a utilização da ferramenta para fins de pesquisa técnica e análise de vulnerabilidades. A comunidade argumenta que, ao tentar mitigar riscos de uso indevido, a empresa acabou limitando a capacidade de profissionais realizarem testes de estresse e verificações de segurança legítimas no modelo. O impasse destaca o desafio contínuo enfrentado por desenvolvedores de LLM em encontrar um equilíbrio entre a implementação de medidas de segurança robustas e a manutenção da utilidade prática da tecnologia para pesquisadores. A Anthropic ainda não detalhou se planeja ajustar os parâmetros de segurança para atender às demandas da comunidade técnica.