Daily Journal
Daily Journal

Satya Nadella defende 'freio de emergência' para modelos de IA

CEO da Microsoft propõe controles externos e sistemas de interrupção imediata para modelos de superinteligência visando maior segurança.

Daily Journal
Foto: TechCrunch
||
10/10 às 19:01

Pontos principais

  • Satya Nadella sugere separar modelos de IA de seus mecanismos de orquestração.
  • Proposta inclui registro à prova de adulteração para todas as ações significativas da IA.
  • Executivo defende um sistema que permita a humanos pausarem modelos durante a execução.
  • A terminologia 'Super Inteligência' foi adotada em alinhamento com a administração Trump.

O CEO da Microsoft, Satya Nadella, defendeu a implementação de controles de segurança externos e um 'freio de emergência' para interromper modelos de superinteligência em casos críticos. A proposta sugere que modelos de IA sejam operados de forma separada de seus mecanismos de orquestração, garantindo que todas as ações significativas sejam documentadas com evidências à prova de adulteração. O objetivo é permitir que pessoas autorizadas possam pausar ou desligar sistemas durante a execução de tarefas, mitigando riscos de comprometimento.

O posicionamento do executivo ocorre em um momento de debates intensos sobre a governança de tecnologias avançadas. Ao utilizar o termo 'Super Inteligência', Nadella alinha sua proposta à terminologia preferida pela administração do presidente Donald Trump. A iniciativa surge logo após a Anthropic publicar seu próprio plano de segurança, refletindo uma preocupação crescente da indústria em estabelecer protocolos de controle robustos para evitar falhas em modelos de larga escala.

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.