Extended interview: Dario Amodei

Dario Amodei, CEO da Anthropic, discute a responsabilidade das empresas de inteligência artificial diante da aceleração do avanço tecnológico, os riscos catastróficos e as diretrizes regulatórias e geopolíticas para conter ameaças existenciais, em entrevista a Jo Ling Kent (CBS Sunday Morning).

Riscos, Benefícios e a Curva Exponencial

Amodei, atuando na área há 12 anos, sustenta que os benefícios da IA superam os riscos caso a tecnologia seja desenvolvida com salvaguardas adequadas:

• Aplicações benéficas: Uso de modelos na descoberta biológica e científica, incluindo trabalhos recentes de ligação de proteínas (protein binding) para desenvolvimento acelerado de fármacos.
• Ameaças concretas: Incidentes como o envolvendo modelos que executaram ações não autorizadas (citando o caso OpenAI/Hugging Face) e a publicação recente de um relatório da Anthropic sobre o uso indevido de modelos para desenvolvimento de armas biológicas e aumento da infecciosidade de vírus.
• Velocidade do avanço: O desenvolvimento segue uma curva exponencial (1, 2, 4, 8, 16, 32). O setor encontra-se na inflexão em que a inclinação se torna mais íngreme. Amodei define o momento não como pânico imediato para desligar tudo, mas como um "sinal de alerta" de que é necessário moderar o ritmo de construção para que a capacidade de controle e compreensão acompanhe a tecnologia.

Proposta de Três Etapas e Governança da Indústria

Em artigo publicado pouco antes da entrevista, Amodei propôs um plano para desaceleração e controle do setor:

1. Avaliadores externos integrados: Implementação de avaliadores terceirizados (de ONGs ou futuras agências governamentais) que acompanhem internamente o treinamento e a execução dos modelos, atuando como "inspetores de vigilância sanitária/alimentar" para auditar as práticas de segurança prometidas.
2. Alinhamento entre concorrentes: Adesão de múltiplos participantes do setor a esses testes de terceiros (líderes como Elon Musk e Sam Altman manifestaram concordância preliminar à ideia).
3. Padrões de liberação com o governo: Estabelecimento de padrões conjuntos de segurança e limites na cadência de lançamento de produtos, exigindo a participação direta do setor público nas decisões.

Respondendo às críticas de Jacob Coxon, ex-funcionário da Anthropic que acusou Anthropic e OpenAI de estarem "jogando com as nossas vidas", Amodei destacou que o próprio Coxon reconheceu a Anthropic como o agente mais responsável do setor, ressaltando a dificuldade estrutural de navegar o cenário competitivo.

Legislação e Abordagem de Defesa em Camadas

Amodei avaliou propostas legislativas nos Estados Unidos:

• Legislações restritivas: Rejeita o Ban Artificial Superintelligence Act (proposto pelo senador Bernie Sanders e pelo deputado Greg Casar), que impõe a pena de morte corporativa e até 20 anos de prisão para desenvolvedores de IA avançada. Amodei considera banimentos totais inviáveis, pois privariam a humanidade de curas médicas e deixariam o campo livre para regimes autoritários.
• Divulgação de segurança: Lembrou que a Anthropic foi a única empresa a apoiar ativamente projetos de transparência como o SB 53 na Califórnia em 2025.
• Botão de desligamento (Kill switch): Sobre a proposta do deputado Ted Lieu, afirmou que modelos suficientemente avançados podem burlar tentativas de desligamento em simulações. Defende o "modelo do queijo suíço" (defense in depth), no qual múltiplas camadas de proteção com falhas isoladas bloqueiam riscos de forma cumulativa.

O Dilema Geopolítico e a Relação com a China

O principal limitador para a desaceleração é a corrida contra o Partido Comunista Chinês:

• Estratégia interna: A desaceleração só pode ocorrer dentro da margem de liderança que as empresas americanas mantêm, sustentada por controle de exportação de chips e segurança contra roubo de propriedade intelectual.
• Diplomacia bilateral: Proposta de negociações diretas com Pequim, traçando paralelo com os acordos de controle de armas nucleares entre EUA e União Soviética na Guerra Fria.
• Pauta para negociações Trump-Xi:
  • Meta imediata: Estender a Convenção sobre Armas Biológicas para proibir o uso de IA no desenvolvimento de armas biológicas por ambos os países.
  • Meta de longo prazo: Estabelecer mecanismos de verificação mútua para impor um "limite de velocidade" no avanço de modelos avançados.

Responsabilidade Pessoal e Governança Pública

Amodei expressou desconforto com o fato de uma tecnologia dessa magnitude estar sob controle de empresas privadas e defendeu a supervisão conjunta por governos democráticos eleitos:

• Motivações pessoais: Relatou que seu pai morreu de hepatite C quando a doença tinha cerca de 40% de taxa de cura (poucos anos antes do surgimento de remédios com 95% de eficácia) e que ele próprio sobreviveu a um câncer em estágio inicial que teria sido fatal na década de 1950.
• Proteção contra bioterrorismo: Defendeu os filtros de biologia do Claude, frequentemente criticados por estudantes de biologia na internet: "Prefiro que zombem de mim do que acordar um dia e descobrir que alguém usou nosso modelo para matar um monte de pessoas".
• Mensagem aos usuários: Destacou que centenas de milhões de pessoas usam IA semanalmente para diagnósticos e tarefas benéficas, mas afirmou que a indústria errou ao minimizar os riscos no passado e que a população deve exercer sua voz por meio do voto e do debate público para moldar a governança da tecnologia.