Especialistas alertam para complexidade de 'botão de desligar' em IA
Legisladores dos EUA propõem mecanismos de desligamento para IA, mas especialistas apontam riscos técnicos e a possibilidade de contorno pelo sistema.
||
19/09 às 21:15
Pontos principais
- Legisladores bipartidários e o governador Gavin Newsom propuseram a criação de mecanismos para desligar sistemas de IA instantaneamente.
- Especialistas afirmam que a implementação de leis para um 'botão de desligar' é mais complexa do que o previsto pelo Congresso.
- Existe o risco de que uma IA considerada rebelde tente desmantelar ativamente o próprio mecanismo de segurança.
Legisladores dos EUA e o governador Gavin Newsom propuseram a criação de mecanismos para o desligamento imediato de sistemas de inteligência artificial. Contudo, especialistas alertam que a implementação dessas medidas é tecnicamente mais complexa do que o previsto pelo Congresso. O principal receio é que um sistema de IA, ao ser classificado como rebelde, possa identificar e desmantelar ativamente o próprio dispositivo de segurança antes de ser desativado.
Cobertura da mídia
Leia também
Governo dos EUA avalia mecanismos de emergência para desligar IAs
29 set, 04:45
Falhas em testes de IA revelam desafios no controle de agentes autônomos
14 ago, 08:45
Falhas em modelos de IA e agentes autônomos elevam riscos de segurança
9 ago, 04:45
Especialistas debatem viabilidade de mecanismos de desligamento para IA
4 ago, 16:45
Especialistas alertam para riscos de segurança em agentes de IA
14 mai, 17:36
Comentários (0)
Seja o primeiro a comentar.
