CEO da Google DeepMind propõe órgão regulador para IA nos EUA
Demis Hassabis defende a criação de uma entidade independente para supervisionar a segurança de modelos de IA antes de seu lançamento comercial.
Pontos principais
- A proposta sugere um modelo de autorregulação inspirado na FINRA para testar modelos de fronteira.
- Laboratórios seriam incentivados a compartilhar voluntariamente seus modelos 30 dias antes do lançamento.
- O órgão seria composto por especialistas independentes e financiado pela própria indústria de tecnologia.
- A iniciativa busca estabelecer padrões globais de segurança para mitigar riscos associados à AGI.
- A proposta ocorre sob maior escrutínio da administração Trump sobre empresas como OpenAI e Anthropic.
Demis Hassabis, CEO da Google DeepMind, propôs a criação de um órgão regulador nos Estados Unidos para supervisionar o desenvolvimento de modelos de inteligência artificial de 'classe de fronteira'. A iniciativa sugere um modelo inspirado na FINRA, entidade que supervisiona o setor financeiro, onde laboratórios compartilhariam voluntariamente seus sistemas para análise técnica 30 dias antes do lançamento comercial. O objetivo é estabelecer padrões de segurança e transparência para o desenvolvimento de AGI, garantindo testes rigorosos antes da disponibilização pública.
A proposta surge em um momento de crescente atenção da administração do presidente Donald Trump, que tem imposto restrições a empresas como OpenAI e Anthropic. Hassabis busca apoio governamental e de outros líderes do setor para tornar o órgão operacional ainda este ano, visando mitigar riscos sistêmicos e promover o desenvolvimento responsável da tecnologia através de uma estrutura financiada pela indústria, mas gerida por especialistas independentes.
Tópicos relacionados
Comentários
Carregando comentários...