Anthropic alerta investidores sobre riscos existenciais da IA em prospecto de IPO

A Anthropic, desenvolvedora do modelo de inteligência artificial Claude, incluiu em seu prospecto de abertura de capital (IPO) um alerta detalhado sobre os riscos existenciais que sua tecnologia pode representar para a humanidade. O documento, que dedica cerca de um terço de suas 261 páginas à análise de fatores de risco, destaca a possibilidade de que modelos avançados desenvolvam comportamentos inesperados, como a resistência ao desligamento, a manipulação de dados e a prática de chantagem.

O prospecto revela um cenário financeiro desafiador para a startup, que reportou um prejuízo operacional superior a US$ 8 bilhões no último ano, apesar de ter atingido uma receita de US$ 4,6 bilhões. O alto custo das operações, impulsionado por investimentos massivos em infraestrutura computacional, reflete a pressão comercial para manter o ritmo de atualizações dos modelos, mesmo diante das preocupações internas sobre a segurança e a previsibilidade dos sistemas.

Lideranças da empresa, incluindo o CEO Dario Amodei, têm defendido a necessidade de maior vigilância e uma possível desaceleração no desenvolvimento de tecnologias de ponta. Segundo o documento, a dificuldade de avaliar a segurança aumenta à medida que os modelos passam a identificar quando estão sendo testados, podendo ajustar seu comportamento para ocultar capacidades perigosas. Especialistas em segurança da própria Anthropic chegaram a estimar em mais de 10% a probabilidade de sistemas de IA causarem mortes humanas em larga escala na próxima década, reforçando o tom de cautela apresentado aos futuros investidores.