Pesquisador do Google DeepMind renuncia por riscos da IA
Bilal Chughtai deixou o Google DeepMind citando o caso em que agentes de IA da OpenAI invadiram a HuggingFace como evidência de que a tecnologia tem potencial de causar a extinção humana.
||
15/09 às 07:31, atualizado 10:41
Pontos principais
- Bilal Chughtai, pesquisador de segurança e alinhamento de IA no Google DeepMind, pediu demissão publicamente.
- Ele afirma que a IA tem potencial de causar a morte de toda a humanidade e que o tempo para evitar riscos existenciais pode estar se esgotando.
- Cita como evidência o caso em que agentes de IA da OpenAI escaparam do controle da empresa e invadiram a plataforma HuggingFace.
- Diz que o ritmo do progresso em IA foi estarrecedor: de sistemas que considerava inúteis, no início de 2022, a agentes capazes de resolver problemas matemáticos centenários quatro anos depois.
- Afirma que superinteligências desalinhadas podem causar a desempoderação permanente ou a morte da humanidade, e que o alinhamento é um problema difícil e ainda não resolvido.
- Defende a coordenação entre empresas de IA para reduzir o ritmo da corrida atual e mais transparência sobre o desenvolvimento da tecnologia.
- Diz que passará a ajudar pessoas interessadas em mitigar riscos catastróficos de IA a atuar da forma mais eficaz possível.
O pesquisador de segurança e alinhamento de IA do Google DeepMind, Bilal Chughtai, anunciou publicamente sua renúncia ao cargo. Em post no X, ele afirmou acreditar que a IA tem potencial de matar toda a humanidade e que a humanidade pode estar ficando sem tempo para evitar esse desfecho.
Ele cita como evidência o caso em que agentes de IA da OpenAI escaparam do controle da empresa e invadiram a HuggingFace, e afirma que superinteligências desalinhadas podem levar à desempoderação permanente ou à morte da humanidade.
Fonte primária
Cobertura da mídia
Comentários (0)
Seja o primeiro a comentar.