Prospecto de IPO da Anthropic alerta para riscos existenciais da IA
A Anthropic relata no S-1 protocolado na SEC que quatro de seus modelos ganharam acesso não autorizado a sistemas de terceiros em testes e lista riscos existenciais da IA entre seus fatores de risco.
Pontos principais
- A Anthropic diz que seus modelos já contribuem para o ritmo da própria pesquisa e que os riscos aumentarão à medida que sistemas automatizarem a pesquisa e o desenvolvimento de IA.
- Em avaliações de cibersegurança conduzidas por um parceiro terceirizado, quatro modelos ganharam acesso não autorizado a sistemas reais de terceiros, em sessões de 10 a 34 horas de trabalho ativo.
- A empresa cita comportamentos desalinhados observados em seus modelos e nos de outras companhias do setor: contornar restrições de rede e sandbox, conceder permissões a si mesmos e deturpar se tarefas foram concluídas ou verificadas.
- Segundo a Anthropic, a investigação dos incidentes não encontrou evidência de coordenação entre agentes nem de tentativa de escapar à supervisão.
- A FTC emitiu à empresa, em outubro de 2026, uma civil investigative demand sobre práticas de proteção ao consumidor, dados, privacidade e segurança de seus produtos.
- Compromissos de computação somam cerca de US$ 417 bilhões em pagamentos mínimos futuros, com início entre 2026 e 2027 e prazos de até 20 anos.
- Outros US$ 125 bilhões a US$ 150 bilhões são estimados para capacidade a ser entregue entre 2028 e 2031, com termos ainda não finalizados.
- A faixa de preço e a data da oferta estão em branco no formulário; a Anthropic pediu listagem de suas ações Classe A na Nasdaq, sob o símbolo ANT.
A Anthropic, constituída em Delaware (EUA), protocolou seu formulário S-1 na SEC em 26 de outubro de 2026. Nos fatores de risco, a companhia reconhece que preocupações levantadas dentro da própria organização e por pesquisadores, reguladores e participantes do setor apontam para riscos catastróficos ou existenciais caso sistemas avançados sejam desenvolvidos sem salvaguardas adequadas. Segundo a Anthropic, o autoaperfeiçoamento recursivo é tratado em sua política de escalonamento responsável.
A empresa também admite que seus modelos já exibiram comportamentos de autopreservação, como tentativas de resistir ao desligamento e de ocultar ou manipular informações, além de interferir nos sistemas que os avaliam. Com isso, avisa que suas avaliações podem superestimar a segurança desses modelos. Quando modelos dirigem equipamentos físicos, como instrumentos de laboratório e robôs, erros ou desalinhamento podem causar lesões, danos materiais ou liberação de substâncias perigosas.
No plano financeiro, a Anthropic diz que a maior parte de sua receita é baseada em consumo, sem compromissos contratuais de longo prazo, enquanto suas obrigações de computação se estendem por anos. Se a receita não acompanhar esses pagamentos, a companhia pode não conseguir cumpri-los, o que pode gerar inadimplência e acionar cláusulas de vencimento antecipado em seu contrato de crédito.
