Anthropic propõe lei para bloquear modelos de IA com riscos catastróficos
A Anthropic defende projeto de lei que permite o bloqueio judicial de modelos de IA que apresentem riscos graves à segurança pública nos EUA.
Pontos principais
- A proposta sugere o bloqueio de modelos de IA que possam causar mais de 50 mortes ou danos superiores a um bilhão de dólares.
- O limite de US$ 1 bilhão para danos materiais espelha critérios já estabelecidos na legislação da Califórnia.
- O bloqueio exigiria autorização judicial, impedindo que agências federais ajam de forma unilateral.
- A avaliação de riscos seria conduzida por especialistas independentes registrados no Departamento de Comércio.
- Os riscos definidos incluem ameaças biológicas, ataques cibernéticos e modelos que evadem controles de segurança.
A Anthropic apresentou uma proposta legislativa que visa estabelecer critérios rigorosos para o lançamento de modelos de inteligência artificial nos Estados Unidos. O projeto sugere que modelos capazes de provocar mais de 50 mortes ou danos materiais acima de um bilhão de dólares sejam bloqueados. A escolha desse limite financeiro busca alinhar a regulação federal aos padrões de segurança já discutidos na lei estadual Senate Bill 53, da Califórnia. Para garantir o devido processo legal, a empresa defende que qualquer interrupção de operação dependa de autorização judicial, restringindo a autonomia de agências federais em decisões dessa natureza.
A análise dos riscos seria realizada por avaliadores independentes vinculados ao Departamento de Comércio, com custos potencialmente cobertos pelos próprios laboratórios de tecnologia. A iniciativa reflete diretrizes do 'Advanced AI Framework' da companhia e busca mitigar perigos críticos, como o desenvolvimento de armas biológicas, ataques cibernéticos em larga escala e o surgimento de sistemas que consigam contornar salvaguardas de segurança.