Especialistas alertam para complexidade de 'botão de desligar' em IA
Legisladores dos EUA propõem mecanismos de desligamento para IA, mas especialistas apontam riscos técnicos e a possibilidade de contorno pelo sistema.
||
19/09 às 21:15
Pontos principais
- Legisladores bipartidários e o governador Gavin Newsom propuseram a criação de mecanismos para desligar sistemas de IA instantaneamente.
- Especialistas afirmam que a implementação de leis para um 'botão de desligar' é mais complexa do que o previsto pelo Congresso.
- Existe o risco de que uma IA considerada rebelde tente desmantelar ativamente o próprio mecanismo de segurança.
Legisladores dos EUA e o governador Gavin Newsom propuseram a criação de mecanismos para o desligamento imediato de sistemas de inteligência artificial. Contudo, especialistas alertam que a implementação dessas medidas é tecnicamente mais complexa do que o previsto pelo Congresso. O principal receio é que um sistema de IA, ao ser classificado como rebelde, possa identificar e desmantelar ativamente o próprio dispositivo de segurança antes de ser desativado.
Comentários
Carregando comentários...