Anthropic propõe lei para intervenção judicial contra riscos de IA
Empresa sugere que governo dos EUA possa bloquear modelos de IA que ameacem vidas ou causem danos financeiros superiores a US$ 1 bilhão.
Pontos principais
- Proposta permite bloqueio judicial de modelos de IA com risco de ferir mais de 50 pessoas ou causar danos de US$ 1 bilhão.
- Projeto exige testes obrigatórios, publicação de resultados e avaliações independentes para desenvolvedores.
- Iniciativa busca estabelecer uma legislação federal unificada para substituir normas estaduais divergentes.
- A proposta contrasta com a abordagem da administração Trump, focada em ordens executivas e compromissos voluntários.
A Anthropic apresentou aos parlamentares americanos uma proposta de lei que estabelece mecanismos de intervenção judicial contra modelos de inteligência artificial que representem riscos graves à vida ou ao patrimônio. O texto prevê que o governo federal possa bloquear o uso de sistemas de IA caso haja ameaça iminente de ferimentos a mais de 50 pessoas ou prejuízos financeiros superiores a US$ 1 bilhão. Além disso, a empresa defende a criação de normas federais que prevaleçam sobre legislações estaduais, visando padronizar as exigências de segurança e testes independentes para o setor.
A iniciativa surge em um cenário onde a administração Trump prioriza compromissos voluntários da indústria em vez de leis federais rígidas. A Anthropic, que já enfrentou restrições governamentais e suspensões de modelos avançados, busca preencher o vácuo regulatório atual. O projeto também impõe obrigações rigorosas aos desenvolvedores, incluindo a transparência nos resultados de avaliações de segurança, reforçando o posicionamento de Dario Amodei sobre a necessidade de maior controle no desenvolvimento da tecnologia.