Satya Nadella propõe 'botão de emergência' para modelos de IA
CEO da Microsoft sugere mecanismo externo para interromper sistemas de inteligência artificial que apresentem comportamentos perigosos.
Pontos principais
- Satya Nadella defende a criação de um freio de emergência para sistemas de IA.
- A proposta prevê a separação dos mecanismos de segurança para permitir supervisão externa.
- Ações críticas dos modelos seriam registradas em documentos imutáveis.
- Pessoas autorizadas poderiam desligar sistemas sem depender da colaboração da própria IA.
- A discussão sobre segurança em IA foi impulsionada por planos da Anthropic.
O CEO da Microsoft, Satya Nadella, defendeu a implementação de um mecanismo de segurança externo, comparável a um freio de emergência, para sistemas de inteligência artificial. A proposta visa garantir que modelos que apresentem comportamentos inesperados ou perigosos possam ser interrompidos imediatamente por pessoas autorizadas, sem a necessidade de colaboração da própria tecnologia.
Além do desligamento forçado, Nadella sugere que as ações relevantes dos modelos sejam registradas em documentos protegidos contra adulterações, garantindo maior transparência e auditoria. A iniciativa ganha força em um momento de debate global sobre o desenvolvimento cauteloso da tecnologia, seguindo discussões recentes iniciadas por outros líderes do setor, como o CEO da Anthropic, Dario Amodei, sobre os riscos associados ao avanço acelerado da IA.
Tópicos relacionados
Cobertura da mídia
Comentários
Carregando comentários...