Anthropic propõe desligamento judicial de IAs com risco de danos graves
Empresa sugere ao Congresso americano que modelos de IA capazes de causar mortes ou prejuízos bilionários sejam interrompidos por ordem judicial.
Pontos principais
- A proposta prevê o desligamento de modelos de IA que possam causar mais de 50 mortes ou prejuízos superiores a US$ 1 bilhão.
- A decisão de suspender o desenvolvimento ou uso da tecnologia caberia a um juiz federal do Tribunal Distrital do Distrito de Columbia.
- O mecanismo incluiria supervisão do Departamento de Comércio dos Estados Unidos e auditorias independentes.
- A iniciativa busca alinhar a regulação federal a medidas de segurança já debatidas no estado da Califórnia.
A Anthropic apresentou ao Congresso dos Estados Unidos uma proposta legislativa que visa estabelecer critérios rigorosos para a interrupção de modelos de inteligência artificial. Pelo texto, sistemas que apresentem risco comprovado de causar mais de 50 mortes ou prejuízos financeiros superiores a US$ 1 bilhão poderiam ser desligados por determinação judicial. A medida visa criar um mecanismo de controle para tecnologias autônomas, contando com a supervisão do Departamento de Comércio e auditorias independentes para avaliar os riscos técnicos.
A decisão final sobre a suspensão do desenvolvimento ou do uso de tais modelos ficaria a cargo de um juiz federal do Tribunal Distrital do Distrito de Columbia. A iniciativa reflete um movimento crescente entre executivos de grandes empresas de tecnologia, como Anthropic e OpenAI, que defendem a necessidade de desacelerar o avanço da IA para garantir a segurança pública. O projeto busca harmonizar as normas federais com legislações de segurança já em discussão na Califórnia.