Reino Unido reforça defesas cibernéticas com IA e pede cautela a laboratórios
O governo britânico vai usar IA de fronteira para reforçar as defesas cibernéticas, e o ministro de IA, Kanishka Narayan, pediu às empresas que não lancem sistemas cujos riscos não consigam controlar.
Pontos principais
- Dois projetos-piloto de IA de fronteira identificaram e corrigiram mais de 1.000 potenciais vulnerabilidades em sistemas do governo.
- O programa será ampliado para reduzir riscos no curto prazo e apoiar a adoção de IA no setor público.
- O AI Security Institute avalia a geração mais recente de modelos avançados, após trabalho com grandes desenvolvedores e com o governo dos EUA.
- O governo vai explorar o fortalecimento do projeto de lei de Cibersegurança e Resiliência para proteger hospitais e serviços essenciais, inclusive contra a perda de controle de sistemas autônomos de IA.
- Quase-incidentes com IA serão analisados quanto à forma de identificação e notificação, sem prazo anunciado.
- O NCSC e o AI Security Institute trabalham em como responder a incidentes graves envolvendo agentes de IA autônomos.
- Detalhes sobre o apoio à verificação de IA virão nos próximos meses.
O ministro de IA do Reino Unido, Kanishka Narayan, discursou no Base One, incubadora do Imperial College London, e disse que quer que o país seja um dos mais difíceis do mundo para atacar usando inteligência artificial. Às empresas que desenvolvem os sistemas mais poderosos, pediu que ouçam seus cientistas quando alertarem sobre perigos sérios, investiguem comportamentos inesperados e, se não conseguirem controlar adequadamente os riscos, não lancem o sistema.
Narayan afirmou que o governo legislará onde for necessário, mas as medidas ainda estão em fase de definição: o detalhe será trabalhado com parlamentares, especialistas técnicos e os operadores que terão de executá-las. O governo britânico as descreve como os primeiros passos de uma agenda mais longa, que a força-tarefa de IA do primeiro-ministro tratará nos próximos meses, com foco em segurança nacional, crescimento econômico, serviços públicos e força de trabalho.
Cobertura da mídia
Comentários
Carregando comentários...