CEO da Anthropic defende desaceleração no desenvolvimento de IA

Dario Amodei, CEO da Anthropic, apresentou um plano estratégico propondo que a indústria de inteligência artificial adote um ritmo de desenvolvimento mais cadenciado. Segundo o executivo, a velocidade atual dos avanços tecnológicos superou a capacidade de acompanhamento do setor, elevando o risco de falhas graves e danos em escala global. A proposta não sugere uma interrupção total do treinamento de modelos, mas sim um controle mais rigoroso para garantir que a segurança e o alinhamento dos sistemas sejam priorizados.

O plano de Amodei baseia-se em três pilares fundamentais: a implementação de avaliadores externos independentes para verificar a segurança dos modelos, a coordenação entre empresas de países democráticos e o estabelecimento de acordos globais de cooperação. O objetivo é utilizar o tempo ganho com essa desaceleração para aprofundar pesquisas em interpretabilidade e excelência operacional, mitigando ameaças como o autoaperfeiçoamento recursivo de sistemas e o uso da tecnologia em ciberataques.

A iniciativa recebeu apoio público de figuras influentes no ecossistema de tecnologia, incluindo Elon Musk, da xAI, que endossou a posição de Amodei. O debate reflete uma preocupação crescente entre pesquisadores sobre os riscos existenciais associados à corrida tecnológica desenfreada. Ao defender essa postura, a Anthropic busca estabelecer um novo padrão de governança, tentando equilibrar a inovação necessária com a responsabilidade de evitar que o desenvolvimento da inteligência artificial ultrapasse os mecanismos de controle e proteção da sociedade.