Hassabis propôs órgão de supervisão de IA nos moldes da AIEA
As conversas com governos e laboratórios rivais ocorreram nas semanas anteriores à sua saída do cargo de CEO da Google DeepMind.
Pontos principais
- Demis Hassabis conversou com autoridades de governo e líderes de outros laboratórios sobre criar uma entidade independente de segurança para o setor de IA.
- As conversas ocorreram nas semanas anteriores a ele deixar o cargo de CEO da Google DeepMind; Hassabis é o principal cientista da Alphabet.
- Com pares, ele comparou a organização proposta à Agência Internacional de Energia Atômica (AIEA), órgão da ONU que fiscaliza o uso de energia nuclear.
- Hassabis defendeu a ideia publicamente em 14 de julho, no texto 'A Framework for Frontier AI and the Dawning of a New Age', que propõe um órgão de padrões nos moldes da FINRA.
- Pela proposta, laboratórios de fronteira compartilhariam voluntariamente seus modelos para revisão até 30 dias antes do lançamento; depois de validado o protocolo, passar no teste viraria obrigatório no mercado americano.
- Ele disse ter publicado o framework após preocupações com as capacidades cibernéticas do modelo Mythos, da Anthropic, que chamou de 'tiro de advertência'.
O órgão proposto teria autoridade para avaliar modelos de fronteira antes do lançamento e para coordenar uma desaceleração de todo o setor caso fossem julgados arriscados demais para serem implantados. Seria composto por especialistas independentes de destaque e por representantes de comunidades de código aberto, com conselho de maioria independente e financiamento vindo das próprias empresas de IA — o mesmo desenho da FINRA, entidade financiada pelo setor que fiscaliza as corretoras americanas sob supervisão da SEC.
Hassabis disse ter apresentado o plano a praticamente todos os grandes laboratórios de IA, incluindo Dario Amodei. Ele vinha dedicando parcela crescente do seu tempo a uma entidade que codificaria guardrails de segurança e boas práticas para o desenvolvimento de AGI (inteligência artificial geral).
Comentários
Carregando comentários...