Anthropic revela avanço em pesquisa de IA com autoaperfeiçoamento
Documento da Anthropic à SEC indica desenvolvimento de IA com capacidade de autoaperfeiçoamento recursivo, mantendo foco em segurança.
Pontos principais
- A Anthropic está desenvolvendo um modelo com capacidade de Autoaperfeiçoamento Recursivo (RSI).
- A informação foi revelada em documentos enviados à SEC para o processo de IPO da empresa.
- A companhia afirma que nenhum sistema atual atingiu o limite de autonomia total.
- Pesquisadores humanos seguirão integrados ao processo para garantir a segurança dos modelos.
A Anthropic revelou, em documentos submetidos à Comissão de Valores Mobiliários dos Estados Unidos (SEC) como parte de seu processo de IPO, que está trabalhando no desenvolvimento de modelos de inteligência artificial com capacidade de Autoaperfeiçoamento Recursivo (RSI). A tecnologia permitiria que o sistema aprimorasse seu próprio código e arquitetura de forma autônoma, um marco significativo no campo da AGI.
Embora a empresa admita dificuldades históricas em prever acelerações bruscas no ritmo de desenvolvimento de seus sistemas, a companhia assegura que nenhum modelo atual ultrapassou o limite de autoaperfeiçoamento autônomo. Para mitigar riscos, a Anthropic reforçou que manterá pesquisadores humanos supervisionando todas as etapas críticas do ciclo de desenvolvimento, visando garantir que a evolução da tecnologia permaneça alinhada aos protocolos de segurança estabelecidos.
Tópicos relacionados
Cobertura da mídia
Leia também
Avanço do autoaprimoramento recursivo em IA gera debate sobre riscos
24 set, 10:45
Laboratórios de IA integram modelos no desenvolvimento de sucessores
19 set, 17:15
Incidentes com agentes autônomos de IA reacendem debate sobre segurança
19 set, 04:45
Mustafa Suleyman critica antropomorfização de modelos de IA
18 set, 03:45
Pesquisadores alertam para risco de extinção humana por IA avançada
11 set, 06:45
Comentários (0)
Seja o primeiro a comentar.