METR and AI Regulation, Zuck Pushes Back on AI Slowdown, Fed Hikes Rates

No programa Diet TBPN, os apresentadores John Coogan e Jordi Hays (com intervenções do produtor Tyler) analisam os principais acontecimentos recentes no ecossistema de tecnologia, finanças e regulação de inteligência artificial: o debate sobre a avaliação de modelos de fronteira pela organização METR e paralelos com a regulação nuclear, a decisão do Federal Reserve de elevar as taxas de juros, o posicionamento público de Mark Zuckerberg contra a desaceleração do desenvolvimento de IA e a intervenção do Departamento de Comércio dos EUA nos mercados de previsão de poder computacional (compute) da Kalshi.

Quem deve regular a IA de fronteira: METR, a16z e o modelo da regulação nuclear

A discussão sobre a governança de modelos de fronteira polarizou-se rapidamente após Dario Amodei, CEO da Anthropic, publicar um ensaio defendendo a inclusão da METR (Model Evaluation and Threat Research) como avaliadora independente de modelos. A reação foi imediata:

O New York Post criticou a medida, classificando a METR como um grupo de "cães de guarda escolhidos a dedo" (handpicked AI watchdogs).
Martin Casado, sócio-geral da Andreessen Horowitz (a16z), defendeu que a supervisão deveria ficar sob a alçada do Departamento de Energia dos EUA (DoE), em uma linha de atuação estatal direta.
Há ceticismo quanto à independência da METR devido à sua estrutura de financiamento e histórico com os laboratórios, o que gera resistência sobre a legitimidade de sua atuação sem um órgão regulador inteiramente novo.

A distinção entre previsão de riscos (superforecasting) e auditoria operacional

John Coogan argumenta que o debate mistura duas funções distintas:

Previsão de longo prazo / risco existencial (superforecasting / P-doom): antever cenários geopolíticos e teóricos.
Inspeção técnica e conformidade: analisar logs de sistemas, auditar incidentes, identificar violações de segurança cibernética e avaliar passivos reais.

Para ilustrar que a execução técnica da segurança não exige alinhamento ideológico sobre cenários apocalípticos, Coogan cita o programa nuclear da Marinha dos EUA (US Navy):

Um jovem de 22 anos, sem diploma universitário e sem patente de oficial, pode ser treinado em 18 meses para operar a segurança de um reator nuclear em um submarino.
O treinamento divide-se em 6 meses na Nuclear Field A School, cerca de 6 meses na Nuclear Power School (cobrindo matemática, física nuclear, princípios de reatores, proteção radiológica, termodinâmica e materiais) e 6 meses de treinamento prático com protótipos.
O operador executa protocolos estritos de contenção sem precisar calcular projeções geopolíticas sobre aniquilação nuclear ou guerra com potências estrangeiras.

O modelo histórico da Comissão de Energia Atômica (AEC) e da NRC

Na história da regulação nuclear americana, houve separação clara entre cientistas teóricos e os reguladores operacionais:

Cientistas como Albert Einstein e J. Robert Oppenheimer alertaram sobre os riscos e participaram do Comitê Consultivo Geral (General Advisory Committee) da Atomic Energy Commission (AEC), propondo diretrizes.
A emissão de licenças e a fiscalização técnica cotidiana ficaram a cargo da burocracia e de engenheiros da Nuclear Regulatory Commission (NRC).
Na NRC atual, os cargos técnicos (engenheiros nucleares, mecânicos, especialistas em materiais, analistas de risco probabilístico e profissionais de cibersegurança) têm remuneração média entre US$ 125.000 e US$ 187.000, constituindo uma força de trabalho técnica qualificada, sem necessidade de envolvimento filosófico com o risco existencial.

Tyler aponta que iniciativas atuais como o CAISI (Center for AI Standards and Innovation) enfrentam dificuldades de financiamento e contratação de talentos vindos dos próprios laboratórios de IA. Além disso, as métricas de segurança em IA ainda não são padronizadas como na contabilidade ou na engenharia mecânica, e incidentes envolvendo enxames de agentes autônomos (agent swarms) geram desafios jurídicos complexos em casos de invasões que não geram dano financeiro direto mensurável.

Federal Reserve eleva juros pela primeira vez em três anos

O Comitê Federal de Mercado Aberto (FOMC), sob a liderança do presidente Kevin Warsh, elevou a taxa básica de juros em 25 pontos-base (0,25 p.p.), estabelecendo o intervalo da Fed funds rate entre 3,75% e 4,00%.

Reação do mercado: A decisão já estava precificada (o mercado preditivo Kalshi indicava 89% de probabilidade pela manhã). O índice NASDAQ subiu 0,67% após o anúncio.
Motivos da alta: A inflação permanece acima da meta de 2% pelo sexto ano consecutivo. O choque de preços de energia decorrente da intensificação da guerra no Irã e a expansão massiva de investimentos de capital (capex) impulsionada pelo boom de IA mantiveram a economia aquecida.
Gráfico de pontos (dot plot): A projeção tornou-se mais restritiva (hawkish). Doze membros projetam mais uma alta ainda neste ano; quatro membros projetam duas altas adicionais; apenas dois membros defendem a manutenção no patamar de 3,75%–4,00%. Kevin Warsh não submeteu sua projeção de ponto (went dotless).

Coogan e Hays observam que a tese amplamente difundida no Vale do Silício de que o setor de tecnologia só prosperaria sob taxas de juros reais zeradas (ZIRP) provou-se incorreta para a infraestrutura de IA, afetando primariamente modelos de negócios de arbitragem financeira de crédito como a Pipe.

Resposta de Mark Zuckerberg ao debate sobre desaceleração da IA

Mark Zuckerberg (CEO da Meta) publicou uma declaração afirmando que os laboratórios possuem incentivos naturais de mercado para manter modelos alinhados, argumentando que os usuários rejeitam agentes que não executam suas instruções com precisão e que a confiança será o maior diferencial competitivo.

Crítica dos apresentadores à postura de Zuckerberg

Desvio do debate central: Coogan e Hays sustentam que Zuckerberg desvia propositalmente do debate sobre risco existencial (X-risk) conduzido por Dario Amodei (Anthropic) e Sam Altman (OpenAI), tratando a questão como mero alinhamento de produto ao consumidor.
Atraso no lançamento do modelo Muse: Zuckerberg destacou que a Meta atrasou o lançamento do modelo Muse por meses para garantir segurança e testes internos sem pedir publicamente que concorrentes desacelerassem. Os apresentadores apontam que adiar lançamentos para testes de qualidade e segurança é prática padrão de engenharia para qualquer empresa com bilhões de usuários, classificando o anúncio como uma comemoração vazia (victory lap for not taking a victory lap).
P-doom zero: Os apresentadores avaliam que Zuckerberg opera sob a premissa de que o risco existencial de IA é nulo (P-doom = 0) e foco em abundância, mas evita declarar isso abertamente para preservar capital de imagem.

Alocação de computação e autoaperfeiçoamento recursivo (RSI)

Zuckerberg afirmou que a Meta prioriza a alocação da maior parte de seu poder computacional para servir usuários finais, em vez de focar na corrida pelo autoaperfeiçoamento recursivo (Recursive Self-Improvement - RSI).
Coogan observa uma divergência técnica real de estratégia: laboratórios como a Anthropic priorizam geração de código avançada, que está no caminho crítico de RSI (modelos que aprendem a treinar novos modelos), enquanto a Meta tem alocado computação em aplicações de consumo (como ferramentas práticas e geradores de imagem).

Avaliadores independentes: auditoria tradicional vs. acesso irrestrito

Zuckerberg afirmou que o uso de avaliadores e consultores externos já é "melhor prática da indústria" adotada pelo MSL (Meta Supercomputing Lab / divisão de IA da Meta).
Hays e Coogan ressaltam a diferença crucial: o acordo da Anthropic com a METR confere acesso físico a escritórios, crachá funcional e entrada nos canais internos do Slack para uma ONG de Berkeley sem vínculo empregatício. A Meta adota avaliações externas convencionais e dificilmente aceitaria auditores externos com acesso irrestrito devido ao histórico de vazamentos industriais.

Departamento de Comércio intervém em contratos futuros de computação na Kalshi

O Departamento de Comércio dos EUA emitiu uma ordem para que a plataforma de mercados preditivos Kalshi retirasse do ar seu produto de rastreamento de preços de AI compute (que permitia apostas e precificação sobre o custo de aluguel de chips e GPUs da Nvidia):

Justificativa oficial e desencontro de versões: Autoridades de comércio alegaram preocupações de segurança nacional. Contudo, um porta-voz do Departamento de Comércio declarou à Semafor que o órgão "nunca pediu à Kalshi para retirar este ou qualquer outro mercado", criando contradições públicas.
Moratória na CFTC: O Departamento de Comércio pressionou a Commodity Futures Trading Commission (CFTC) para congelar por 60 dias a aprovação de novos contratos de derivativos atrelados a poder computacional. A medida atrasa planos de operadoras tradicionais de bolsas como a CME e a Intercontinental Exchange (ICE, dona da NYSE), além da fintech Architect Financial Technologies.
Hipótese de risco financeiro e manipulação: Fontes de mercado ouvidas pela Semafor indicam que, por serem mercados com baixa liquidez (thinly traded), contratos futuros de computação poderiam ser manipulados para simular quedas abruptas no preço de aluguel de chips legados (como H100 ou A100). Como esses semicondutores servem de garantia (collateral) para bilhões de dólares em dívidas tomadas por empresas de computação em nuvem (neo-clouds), variações artificiais de preços poderiam desestabilizar o mercado de crédito corporativo e ações de tecnologia.