Pesquisadores criticam restrições de segurança no modelo Fable da Anthropic
Especialistas afirmam que as travas de segurança do novo modelo Fable impedem a realização de pesquisas técnicas e análises de vulnerabilidades.
Pontos principais
- Especialistas em cibersegurança apontam que as guardrails do modelo Fable são excessivamente rígidas.
- As restrições atuais inviabilizam o uso da ferramenta para testes legítimos de segurança digital.
- A comunidade técnica argumenta que a limitação prejudica a análise de vulnerabilidades em sistemas de IA.
- A Anthropic busca equilibrar a segurança do modelo com a utilidade prática para profissionais da área.
Pesquisadores de cibersegurança manifestaram descontentamento com o novo modelo Fable, desenvolvido pela Anthropic. Segundo especialistas, as guardrails implementadas no sistema são excessivamente restritivas, o que impede a utilização da ferramenta para fins de pesquisa técnica e análise de vulnerabilidades. A comunidade argumenta que, ao tentar mitigar riscos de uso indevido, a empresa acabou limitando a capacidade de profissionais realizarem testes de estresse e verificações de segurança legítimas no modelo. O impasse destaca o desafio contínuo enfrentado por desenvolvedores de LLM em encontrar um equilíbrio entre a implementação de medidas de segurança robustas e a manutenção da utilidade prática da tecnologia para pesquisadores. A Anthropic ainda não detalhou se planeja ajustar os parâmetros de segurança para atender às demandas da comunidade técnica.
Tópicos relacionados
Cobertura da mídia
Leia também
Guardrails de IA dificultam trabalho de pesquisadores de cibersegurança
23 jul, 22:15
Governo Trump impõe condições para relançamento do Fable 5 e Mythos 5
17 jun, 20:15
Governo Trump impõe restrições de exportação a modelos da Anthropic
12 jun, 21:01
Anthropic recua sobre política oculta que degradava pedidos rivais ao Claude Fable 5
11 jun, 09:00
Pesquisadores criticam excesso de restrições no modelo Claude Fable
10 jun, 15:15
Comentários (0)
Seja o primeiro a comentar.
