Sakana AI apresenta PC-ALM, método para treinar redes sem backpropagation
Nova tecnologia permite o treinamento de redes neurais profundas com 1000 camadas utilizando aprendizado local em vez de backpropagation.
||
14/09 às 09:10
Pontos principais
- O método PC-ALM utiliza dinâmica local e multiplicadores de Lagrange para a atribuição de crédito.
- A tecnologia possibilita o treinamento de redes neurais com 1000 camadas sem depender do backpropagation tradicional.
- O sistema opera como um controlador de feedback PI para minimizar erros de predição em cada camada.
- A abordagem busca maior eficiência em hardware neuromórfico com base em conceitos de NeuroAI.
A Sakana AI revelou o PC-ALM, um novo método de aprendizado local projetado para treinar redes neurais profundas sem a necessidade do algoritmo de backpropagation. A tecnologia utiliza multiplicadores de Lagrange e dinâmica local para resolver a atribuição de crédito em redes de até 1000 camadas.
O sistema funciona como um controlador de feedback PI, minimizando erros de predição locais em cada camada da rede. Inspirada em conceitos de NeuroAI e otimização distribuída, a abordagem visa aumentar a eficiência operacional em hardware neuromórfico.
Comentários
Carregando comentários...
