CEO do Google DeepMind propõe órgão global para fiscalizar IA
Demis Hassabis sugere a criação de uma entidade inspirada na FINRA para testar modelos avançados de IA antes de seu lançamento comercial.
Pontos principais
- A proposta prevê um órgão financiado pela indústria, mas supervisionado pelo governo e especialistas independentes.
- Modelos de 'classe de fronteira' seriam submetidos a testes de segurança 30 dias antes da disponibilização pública.
- O objetivo é mitigar riscos em cibersegurança, ameaças biológicas e nucleares associadas à AGI.
- O modelo é inspirado na FINRA, entidade que regula o setor financeiro nos Estados Unidos.
- Hassabis afirmou ter discutido a iniciativa com o governo de Donald Trump e autoridades europeias.
- A medida busca estabelecer padrões de segurança globais para o desenvolvimento acelerado da tecnologia.
- A proposta surge em um momento de cautela do governo americano sobre a competitividade tecnológica frente à China.
Demis Hassabis, CEO do Google DeepMind, apresentou uma proposta para a criação de um órgão regulador internacional focado na supervisão de modelos de inteligência artificial de 'classe de fronteira'. Inspirada na FINRA, a entidade funcionaria como um mecanismo de autorregulação supervisionada, exigindo que laboratórios de tecnologia compartilhem seus sistemas para testes de segurança rigorosos até 30 dias antes de qualquer lançamento comercial. A iniciativa visa criar um padrão global de governança para mitigar riscos existenciais e técnicos, como ameaças cibernéticas e biológicas, à medida que a indústria se aproxima da inteligência artificial geral (AGI).
O executivo confirmou que a proposta já foi discutida com o governo do presidente Donald Trump e com autoridades europeias, recebendo sinais de abertura. Embora o setor de IA enfrente debates sobre como equilibrar a segurança nacional com a competitividade tecnológica frente à China, a ideia de um 'selo de controle' ganha força entre líderes do setor. A estrutura proposta busca garantir que o avanço da tecnologia ocorra de forma transparente, com o financiamento vindo da própria indústria, mas sob a fiscalização de especialistas técnicos independentes e do governo, estabelecendo um novo paradigma para a governança de sistemas avançados.
Tópicos relacionados
Comentários
Carregando comentários...