Ro Khanna propõe proibir IA que se autoaperfeiçoa de forma recursiva
Projeto criaria agência federal de segurança de IA inspirada na FDA e penas criminais para quem desativar controles de contenção.
Pontos principais
- Deputado democrata da Califórnia vai apresentar o 'Human Control Over AI Act'.
- Proibição vale até existirem guardrails federais e aprovação de uma agência.
- Agência supervisionaria modelos de fronteira de OpenAI, Anthropic, Google DeepMind e xAI.
- Padrões para testes em sandbox, air gaps (isolamento físico de redes) e kill switches (botões de desligamento).
- Projeto inclui responsabilidade objetiva (strict liability) e exige seguro de responsabilidade civil para lançar modelos.
- Khanna reconhece que o autoaperfeiçoamento recursivo no nível visado ainda não existe.
O deputado Ro Khanna (Democrata, Califórnia) vai apresentar o 'Human Control Over AI Act', que proibiria modelos que se autoaperfeiçoam de forma recursiva ou que modificam por conta própria seus objetivos centrais, mecanismos de contenção ou controles de desligamento, até que existam guardrails federais e uma agência aprove essas atividades. O projeto cria uma agência federal inspirada na FDA (agência americana que regula alimentos e medicamentos) para supervisionar os laboratórios de fronteira.
Funcionários que desativarem guardrails, kill switches, registros ou contenção, ou que implantarem conscientemente um sistema não autorizado, enfrentariam penas criminais. Khanna admite que a capacidade visada ainda não existe, mas argumenta que o governo deve agir antes das empresas, e defende acordos vinculantes e controles de exportação direcionados para conter a China.
Comentários
Carregando comentários...