David Sacks acusa Anthropic de ignorar falha de segurança no modelo Fable
O investidor David Sacks afirma que a Anthropic se recusou a corrigir uma vulnerabilidade crítica de jailbreak reportada em seu novo modelo Fable.
Pontos principais
- David Sacks alega que um parceiro confiável identificou uma falha de jailbreak no modelo Fable da Anthropic.
- O investidor afirma que o CEO Dario Amodei não corrigiu o problema nem suspendeu a operação do modelo.
- A denúncia ocorre logo após o lançamento público da classe de modelos Mythos, que inclui o Fable.
- Sacks relatou ter discutido a postura da empresa sobre segurança de IA com autoridades governamentais.
O investidor David Sacks trouxe a público uma acusação grave contra a Anthropic, alegando que a empresa negligenciou uma vulnerabilidade de segurança crítica em seu recém-lançado modelo Fable. Segundo Sacks, um parceiro de confiança teria reportado uma falha de jailbreak, mas o CEO Dario Amodei teria se recusado a implementar correções ou retirar o modelo de circulação. O episódio ganha relevância por envolver a classe de modelos Mythos, recém-disponibilizada ao mercado, e levanta questionamentos sobre os protocolos de segurança adotados pela companhia.
Além da denúncia direta, Sacks afirmou ter levado o caso ao conhecimento de autoridades governamentais, sinalizando uma crescente pressão sobre a governança de empresas de IA. A recusa em mitigar riscos de segurança em modelos de larga escala tem sido um ponto central no debate sobre a regulação do setor, especialmente em um cenário onde a confiabilidade dessas ferramentas é essencial para sua adoção em massa.
Tópicos relacionados
Comentários
Carregando comentários...