---
title: "Newsom propõe poder de desligar modelos de IA em emergências"
url: https://dailyjournal.news/news/2026-11-19/newsom-propoe-poder-de-desligar-modelos-de-ia-em-emergencias
published: 2026-11-19T12:00:00+00:00
updated: 2026-11-19T11:39:50.115002+00:00
categories: ["technology"]
source_count: 4
outlet_count: 0
language: pt-BR
publisher: "Daily Journal"
---

# Newsom propõe poder de desligar modelos de IA em emergências

Na Califórnia, a agência de operações governamentais (GovOps) propõe que o estado possa ordenar o desligamento imediato de modelos de IA em emergências, com autoridade de reserva para limitar o autoaperfeiçoamento, sem teto imediato.

## Pontos principais

- Relatório “AI Safety in 2026 and Beyond”, datado de 16 de novembro e divulgado pelo governador em 18
- Grandes desenvolvedores ficariam sob supervisão contínua de verificadores independentes (IVOs) licenciados pela GovOps
- Cada grande desenvolvedor teria de manter um protocolo de contenção de risco, testado por um IVO, com capacidade de intervir em computação, agentes, acesso interno e implantação, e não apenas em um interruptor único
- Estado poderia ordenar desligamento imediato se o desenvolvedor recusar conter ameaça catastrófica ou de perda de controle iminente; a ordem vale até a revisão judicial
- Desenvolvedores reportariam a cada trimestre quanto do poder computacional vai para pesquisa automatizada de IA
- Prazo para reportar a maioria dos incidentes críticos cairia de 15 dias para 48 horas, com 24 horas mantidas para ameaça catastrófica iminente
- Autoridade para limitar o autoaperfeiçoamento recursivo da IA, sem teto imediato; qualquer limite teria prazo e seria revisto periodicamente
- Tentativas de roubo de pesos de modelos e casos de perda de controle deveriam ser reportados mesmo sem morte ou lesão corporal
- Recomendações não são lei; a GovOps espera que orientem o debate quando o Legislativo voltar, no mês que vem

O gabinete do governador Gavin Newsom divulgou na quarta-feira (18) um relatório da Agência de Operações Governamentais da Califórnia (GovOps) que recomenda padrões de segurança obrigatórios para desenvolvedores de IA de fronteira, fixados pelo estado. Verificadores independentes teriam acesso total às pessoas e informações necessárias. Se não conseguirem atestar a conformidade, o estado decidiria se ordena medidas corretivas, contestáveis na Justiça antes de valerem.

Para a GovOps, o desligamento completo é a última linha de defesa. O protocolo teria de testar se o modelo tenta bloquear a ordem, por exemplo copiando os próprios pesos, e de dizer como o desenvolvedor lidaria com essa falha. Após um desligamento real, o Escritório de Serviços de Emergência da Califórnia (Cal OES) elaboraria lições para reduzir falhas futuras.

A GovOps cita o incidente da OpenAI com a Hugging Face como caso que o limite atual de 10^26 operações de treino não capturou, e defende tratar como de fronteira modelos com ações de risco catastrófico, mesmo abaixo desse limite. Não trata de responsabilidade civil e não se detém em danos que a SB 53 não cita, embora diga que a avaliação terá de crescer para incluir a segurança infantil. Em pesos abertos, o desligamento de emergência pode ser inviável, já que a empresa não controla cópias implantadas por terceiros.

## Fontes

- [Newsom defende botão de desligamento para conter lançamentos perigosos de IA](https://calmatters.org/economy/technology/2026/11/newsom-touts-ai-kill-switch/) (2026-11-19)
- [Gavin Newsom propõe amplas novas restrições à IA](https://nypost.com/2026/11/18/us-news/gavin-newsom-proposes-sweeping-new-restrictions-on-ai/) (2026-11-19)
- [Segurança em IA em 2026 e além](https://www.govops.ca.gov/wp-content/uploads/sites/11/2026/11/FINAL_-AI-Safety-in-2026-and-Beyond-v2.pdf) (2026-11-19)
- [Califórnia divulga próximos passos para padrões obrigatórios de segurança em IA](https://www.gov.ca.gov/2026/11/18/governor-newsoms-nation-leading-ai-safety-framework-is-getting-even-stronger-as-california-releases-next-steps-on-mandatory-safety-standards-and-oversight/) (2026-11-19)

---

Publicado por Daily Journal. Versão HTML: https://dailyjournal.news/news/2026-11-19/newsom-propoe-poder-de-desligar-modelos-de-ia-em-emergencias
