CEO da Anthropic propõe testes obrigatórios para modelos de IA de fronteira

Dario Amodei, CEO da Anthropic, defendeu a implementação de testes obrigatórios realizados por terceiros para modelos de IA de fronteira. A proposta visa estabelecer um protocolo de segurança rigoroso para mitigar riscos catastróficos, concentrando-se especificamente em vulnerabilidades cibernéticas, ameaças biológicas e comportamentos autônomos. Além das avaliações técnicas, Amodei enfatiza a necessidade de maior transparência durante o ciclo de desenvolvimento dessas tecnologias.

A iniciativa sugere que órgãos reguladores recebam autoridade para impedir ou revogar a liberação de modelos que não cumpram os padrões de segurança estabelecidos. A relevância desta proposta reside na crescente preocupação global sobre o impacto de sistemas de IA cada vez mais potentes. Ao defender uma supervisão externa, a Anthropic busca alinhar o avanço da tecnologia com salvaguardas que protejam a infraestrutura crítica e a segurança pública contra usos maliciosos ou falhas operacionais graves.