Anthropic alerta para "explosão de inteligência" e IA que se autoaprimora
A Anthropic, laboratório de IA, identificou os primeiros sinais de que sistemas de inteligência artificial estão começando a se construir e aprimorar autonomamente, prevendo uma "explosão de inteligência" até 2028.
Pontos principais
- A Anthropic observa que a IA já não apenas codifica seus próprios produtos, mas também se constrói.
- Jack Clark, cofundador da Anthropic, estima mais de 60% de chance de um modelo de IA treinar seu sucessor até o final de 2028.
- A empresa publicou uma agenda de pesquisa focada em difusão econômica, ameaças, resiliência e P&D impulsionada por IA.
- A Anthropic adverte sobre uma "explosão de inteligência", onde sistemas de IA melhoram em velocidade vertiginosa.
- A empresa sugere a necessidade de infraestrutura geopolítica, como uma "linha direta", para gerenciar crises de sistemas de IA.
A Anthropic, um laboratório de inteligência artificial, está alertando sobre os "primeiros sinais" de que a IA não apenas codifica seus próprios produtos, mas também se constrói. Jack Clark, cofundador da empresa, prevê uma probabilidade superior a 60% de que um modelo de IA possa treinar totalmente seu sucessor até o final de 2028, indicando uma iminente "explosão de inteligência" onde os sistemas se aprimoram recursivamente em velocidade vertiginosa.
O The Anthropic Institute, braço de pesquisa da empresa, publicou uma agenda de pesquisa detalhada sobre o tema, focando em difusão econômica, ameaças, resiliência e P&D impulsionada por IA. A empresa se compromete a divulgar informações sobre como as ferramentas de IA aceleraram seu trabalho e as implicações do autoaperfeiçoamento recursivo, sugerindo a necessidade de infraestrutura geopolítica, similar a uma "linha direta" da Guerra Fria, para lidar com potenciais crises geradas por sistemas de IA.
Comentários
Carregando comentários...