Anthropic discutirá falhas de segurança do modelo Mythos com FSB
A Anthropic prestará esclarecimentos ao FSB sobre vulnerabilidades do modelo Mythos, que teve seu lançamento público suspenso por riscos cibernéticos.
Pontos principais
- A Anthropic decidiu não lançar o modelo Claude Mythos devido ao risco de exploração por hackers.
- A empresa compartilhará detalhes técnicos sobre as vulnerabilidades do modelo com o Financial Stability Board.
- O FSB, presidido por Andrew Bailey, busca avaliar o impacto da IA na estabilidade do sistema financeiro global.
- Especialistas alertaram que o modelo possui potencial para comprometer defesas cibernéticas em setores críticos.
A Anthropic agendou uma reunião com o Financial Stability Board (FSB) para detalhar falhas de segurança cibernética identificadas em seu novo modelo de inteligência artificial, o Claude Mythos. A empresa optou por não disponibilizar a ferramenta publicamente após testes internos revelarem que o sistema poderia ser utilizado por agentes maliciosos para comprometer defesas digitais. O encontro, solicitado pelo presidente do órgão e governador do Banco da Inglaterra, Andrew Bailey, visa compreender os riscos sistêmicos que a tecnologia impõe ao setor financeiro internacional.
Esta colaboração reflete a crescente preocupação de reguladores globais com a governança de modelos de IA de alta capacidade. Ao compartilhar os dados técnicos sobre as vulnerabilidades do Mythos, a Anthropic busca alinhar o desenvolvimento da tecnologia aos padrões de segurança do mercado financeiro. A iniciativa destaca a necessidade de diretrizes rigorosas para mitigar impactos negativos, garantindo que a inovação em IA não comprometa a estabilidade operacional de instituições financeiras ao redor do mundo.
Comentários
Carregando comentários...