Meta prioriza alinhamento de IA em vez de autoaperfeiçoamento
Alexandr Wang anunciou que a Meta focará recursos computacionais em agentes alinhados com valores humanos, descartando a corrida pelo RSI.
||
15/09 às 20:40 · atualizado 21:10
Pontos principais
- A Meta destinará a maior parte de seu poder computacional para servir usuários em vez de focar em pesquisa de autoaperfeiçoamento recursivo.
- A empresa defende a implementação de avaliadores externos e supervisão independente em laboratórios de IA.
- A companhia sustenta que laboratórios devem operar sob proteções institucionais e assumir responsabilidade civil por danos causados por modelos.
- O executivo afirma que a adoção de agentes de IA depende diretamente do alinhamento dos modelos com intenções humanas.
Alexandr Wang anunciou que a Meta dedicará a maior parte de seu poder computacional ao desenvolvimento de agentes alinhados, priorizando as necessidades de usuários em detrimento da pesquisa de autoaperfeiçoamento recursivo. A empresa defende a adoção de avaliadores externos e supervisão independente para garantir a segurança dos modelos. Além disso, a Meta sustenta que laboratórios de IA devem operar sob proteções institucionais democráticas e assumir responsabilidade legal por eventuais danos causados por suas tecnologias.
Comentários
Carregando comentários...
