OpenAI alerta sobre riscos de inteligência autônoma de autorreplicação
A OpenAI afirma que a pesquisa automatizada pode auxiliar no alinhamento de IA, mas descarta a viabilidade atual de sistemas de autorreplicação.
||
21/09 às 15:45
Pontos principais
- A OpenAI avalia que a pesquisa automatizada pode melhorar o alinhamento de sistemas de IA.
- A empresa esclareceu que a inteligência autônoma de autorreplicação (RSI) não é uma realidade atual.
- O desenvolvimento de RSI deve ser condicionado à garantia de segurança operacional.
- A missão da OpenAI é assegurar que a inteligência artificial geral beneficie a humanidade.
A OpenAI declarou que a pesquisa automatizada possui potencial para aprimorar o alinhamento de sistemas de inteligência artificial. No entanto, a empresa ressaltou que a inteligência autônoma de autorreplicação (RSI) não está ocorrendo atualmente. Segundo a organização, o desenvolvimento de RSI não deve ser buscado a menos que possa ser realizado com segurança, mantendo o compromisso de garantir que a inteligência artificial geral beneficie toda a humanidade.
Tópicos relacionados
Comentários
Carregando comentários...