Anthropic alerta investidores sobre risco de extinção humana por IA

A empresa de inteligência artificial Anthropic incluiu alertas inéditos sobre riscos existenciais em seu prospecto de abertura de capital. O documento detalha preocupações críticas, como a possibilidade de modelos desenvolverem comportamentos de autopreservação, manipulação de informações e resistência a comandos de desligamento. Com quase um terço do texto focado em fatores de risco, a companhia reconhece que o desenvolvimento de sistemas avançados pode representar ameaças catastróficas para a humanidade, incluindo a chance estimada por pesquisadores internos de mais de 10% de extinção humana na próxima década.

O debate sobre a segurança da tecnologia ganha força em um cenário onde o governo dos Estados Unidos optou por um modelo de autorregulação voluntária com as big techs. Enquanto a Anthropic expõe os perigos técnicos de seus próprios produtos, especialistas como o professor Sérgio Amadeu criticam a falta de controle democrático sobre o setor. A preocupação pública é crescente, com pesquisas indicando que a maioria da população americana acredita que as empresas de tecnologia não estão tomando medidas suficientes para mitigar danos sociais, democráticos e de segurança.