Anthropic alerta para risco de IA criar seus próprios sucessores

A Anthropic alertou que o avanço acelerado dos sistemas de inteligência artificial está próximo de atingir o estágio de auto-melhoria recursiva. Nesse cenário, modelos de IA seriam capazes de projetar e desenvolver seus próprios sucessores com mínima ou nenhuma intervenção humana, um salto tecnológico que exige planejamento rigoroso. Jack Clark, representante da empresa, enfatizou que o impacto dessa capacidade na ciência e na medicina pode ser transformador, mas traz desafios críticos de segurança.

Para mitigar os riscos, a Anthropic tem buscado diálogo com legisladores sobre a implementação de mecanismos de validação e alinhamento de intenções. A preocupação é compartilhada por outras empresas do setor, como a OpenAI, que destaca a necessidade de maior transparência entre pesquisadores para evitar que o desenvolvimento autônomo de sistemas de IA escape ao controle humano e aos padrões éticos estabelecidos.