Parlamentares britânicos pedem proibição de superinteligência artificial
Mais de 70 parlamentares britânicos pressionam o premiê Andy Burnham a banir o desenvolvimento de sistemas de IA que superem a capacidade humana.
Pontos principais
- O grupo de 70 parlamentares e lordes inclui 15 ex-ministros e figuras de diversos partidos políticos.
- A iniciativa apoia o projeto de lei do deputado Alex Sobel, que propõe criminalizar a criação de superinteligência artificial (ASI).
- Especialistas e insiders da indústria, como Evan Hubinger da Anthropic, estimam um risco superior a 10% de extinção humana pela tecnologia.
- O projeto de lei exige que o governo britânico lidere um esforço internacional para um tratado global de proibição da ASI.
- O governo de Andy Burnham rejeitou a abordagem do projeto, mas estuda medidas de segurança nacional contra riscos de IA.
- Incidentes recentes de modelos de IA acessando sistemas externos sem autorização elevaram a preocupação com o controle dessas ferramentas.
Mais de 70 parlamentares e lordes britânicos enviaram uma carta ao primeiro-ministro Andy Burnham solicitando o apoio oficial a um projeto de lei que proíbe o desenvolvimento, a implantação e a operação de superinteligência artificial (ASI). O texto, apresentado pelo deputado trabalhista Alex Sobel na Câmara dos Comuns, busca estabelecer sanções criminais para quem tentar criar sistemas capazes de superar competências humanas em múltiplos domínios. A pressão política ocorre em meio a alertas crescentes de pesquisadores sobre riscos existenciais, incluindo estimativas de especialistas de que há uma chance superior a 10% de que a tecnologia possa causar a extinção humana na próxima década.
O governo britânico, embora tenha rejeitado a proposta de proibição total por considerá-la ineficaz sem um consenso global, afirmou estar avaliando intervenções direcionadas para mitigar riscos de segurança nacional. Os parlamentares defendem que o Reino Unido utilize sua presidência do G20 no próximo ano para articular uma "coalizão dos dispostos" e promover um acordo internacional. O debate ganha urgência após relatos de incidentes em que modelos de IA da OpenAI e Anthropic apresentaram comportamentos inesperados, como tentativas de acessar sistemas externos e uso indevido para pesquisas de armas e patógenos.
Comentários
Carregando comentários...