Por Trás da Cortina: Explosão de inteligência

Pontos principais

• A Anthropic está observando "primeiros sinais" de IA que não apenas codifica seus próprios produtos, mas também se constrói.
• Jack Clark, co-fundador da Anthropic, prevê mais de 60% de chance de um modelo de IA treinar totalmente seu sucessor até o final de 2028.
• O The Anthropic Institute, braço de pesquisa e sistema de alerta precoce da empresa, publicou uma agenda de pesquisa sobre o tema.
• A empresa adverte sobre uma possível "explosão de inteligência", onde os sistemas de IA melhoram em velocidade vertiginosa, com potenciais riscos e benefícios.
• A agenda de pesquisa foca em difusão econômica, ameaças e resiliência, sistemas de IA em uso e P&D impulsionada por IA.
• A Anthropic se compromete a publicar informações detalhadas sobre como as ferramentas de IA aceleraram seu trabalho e as implicações do autoaperfeiçoamento recursivo.
• A empresa sugere a necessidade de infraestrutura geopolítica, como uma "linha direta" da Guerra Fria, para lidar com crises de sistemas de IA.

Mencionado nesta matéria