Satya Nadella defende 'freio de emergência' para modelos de IA
CEO da Microsoft propõe controles externos e sistemas de interrupção imediata para modelos de superinteligência visando maior segurança.
Pontos principais
- Satya Nadella sugere separar modelos de IA de seus mecanismos de orquestração.
- Proposta inclui registro à prova de adulteração para todas as ações significativas da IA.
- Executivo defende um sistema que permita a humanos pausarem modelos durante a execução.
- A terminologia 'Super Inteligência' foi adotada em alinhamento com a administração Trump.
O CEO da Microsoft, Satya Nadella, defendeu a implementação de controles de segurança externos e um 'freio de emergência' para interromper modelos de superinteligência em casos críticos. A proposta sugere que modelos de IA sejam operados de forma separada de seus mecanismos de orquestração, garantindo que todas as ações significativas sejam documentadas com evidências à prova de adulteração. O objetivo é permitir que pessoas autorizadas possam pausar ou desligar sistemas durante a execução de tarefas, mitigando riscos de comprometimento.
O posicionamento do executivo ocorre em um momento de debates intensos sobre a governança de tecnologias avançadas. Ao utilizar o termo 'Super Inteligência', Nadella alinha sua proposta à terminologia preferida pela administração do presidente Donald Trump. A iniciativa surge logo após a Anthropic publicar seu próprio plano de segurança, refletindo uma preocupação crescente da indústria em estabelecer protocolos de controle robustos para evitar falhas em modelos de larga escala.
Tópicos relacionados
Cobertura da mídia
Leia também
Presidente da Microsoft defende liderança do Reino Unido na regulação de IA
12 out, 13:15
Indústria aposta em IA para monitorar e conter falhas de segurança
29 set, 07:15
Corrida pela supremacia em IA desafia medidas de segurança global
22 set, 06:45
CEO da Anthropic propõe regulação para o desenvolvimento de IA
18 set, 14:45
Empresas de tecnologia buscam auditores externos para segurança em IA
18 set, 06:45
Comentários (0)
Seja o primeiro a comentar.
