Hassabis propõe órgão de padrões para IA de fronteira nos moldes da FINRA
Órgão, financiado pelos próprios laboratórios, testaria modelos até 30 dias antes do lançamento e poderia virar requisito nos EUA.
Pontos principais
- Manifesto 'A Framework for Frontier AI and the Dawning of a New Age' publicado em 14 de julho.
- Órgão inspirado na FINRA, financiado majoritariamente pelos laboratórios que fiscaliza.
- Labs compartilhariam modelos voluntariamente até 30 dias antes do lançamento.
- Testes avaliariam capacidades cibernéticas, biológicas e de enganação.
- Regras valeriam a todo modelo de classe fronteira, aberto ou fechado, de qualquer país.
- Aprovação poderia virar requisito para implantação no mercado dos EUA.
Demis Hassabis, laureado com o Nobel por trás do Gemini, propôs em manifesto pessoal a criação de um órgão de padrões para IA de fronteira nos EUA, inspirado na FINRA — o fiscalizador privado, financiado pela indústria, que regula Wall Street sob supervisão da SEC. O novo órgão seria custeado majoritariamente pelos próprios laboratórios avaliados.
Pelo desenho, os laboratórios compartilhariam seus modelos voluntariamente, até 30 dias antes do lançamento, para testes de capacidades perigosas nas áreas cibernética, biológica e de enganação. As regras se aplicariam a todos os modelos de classe fronteira, independentemente do país de origem e de serem abertos ou fechados. A participação começaria voluntária, mas, uma vez comprovada a confiabilidade do processo, passar pelo órgão poderia se tornar requisito para o mercado dos EUA.
Comentários
Carregando comentários...