Modelo de IA da Anthropic gera alarme global e corrida por segurança
O lançamento do modelo Mythos pela Anthropic, considerado perigoso, desencadeou uma corrida global por segurança e evidenciou as implicações geopolíticas do avanço da IA.
Pontos principais
- A Anthropic lançou o Mythos, um modelo de IA tão poderoso que é considerado perigoso e foi inicialmente restrito a 11 organizações dos EUA e, posteriormente, ao Reino Unido.
- O Mythos é capaz de encontrar e explorar falhas em softwares de bancos, redes elétricas e governos, gerando preocupações globais de cibersegurança.
- Líderes mundiais e governos expressam alarme sobre os riscos de segurança cibernética e a necessidade de mitigar ameaças, com alguns países vendo o modelo como evidência das consequências de ficar para trás na corrida da IA.
- A Anthropic está trabalhando com mais de 40 organizações, incluindo Amazon, Apple e Microsoft, para desenvolver correções de segurança para vulnerabilidades identificadas pelo modelo.
- A situação expõe uma crescente divisão internacional e a falta de cooperação em IA, com o acesso à tecnologia de ponta podendo ser unilateralmente restrito por empresas.
A Anthropic, uma das principais empresas no campo da inteligência artificial, revelou o modelo Mythos, considerado perigoso demais para o público em geral devido à sua capacidade de encontrar e explorar falhas em sistemas críticos como bancos e redes elétricas. Este desenvolvimento gerou alarme global e uma corrida por segurança, com líderes mundiais, incluindo o Banco da Inglaterra e o Banco Central Europeu, alertando sobre os riscos de cibersegurança e a necessidade de mitigar ameaças. O modelo foi inicialmente compartilhado apenas com 11 organizações dos EUA e, posteriormente, com o Reino Unido, enquanto a Anthropic trabalha com mais de 40 empresas, como Amazon, Apple e Microsoft, para desenvolver correções de segurança.
Este cenário expõe uma crescente divisão global em relação à inteligência artificial, com países como China e Rússia vendo o Mythos como evidência das consequências de ficar para trás na corrida da IA. A falta de cooperação internacional e a ausência de acordos sobre a não proliferação de IA de ponta são preocupantes, pois o acesso a essa tecnologia pode ser unilateralmente restrito por empresas, levantando questões sobre a governança e o controle internacional sobre o desenvolvimento da IA.
Comentários
Carregando comentários...