OpenAI foca em alinhamento geral para o modelo Astra

O cientista da computação Boaz Barak detalhou que os recentes avanços no alinhamento do modelo Astra, desenvolvido pela OpenAI, são resultado de esforços de pesquisa iniciados antes do incidente envolvendo a HF. Segundo o pesquisador, a companhia está migrando sua estratégia para focar em abordagens de alinhamento mais abrangentes e gerais, buscando evitar a dependência de correções específicas para modos de falha isolados. Embora o modelo Astra demonstre um desempenho superior ao do modelo Sol em métricas de segurança, Barak ressaltou que esses avanços ainda não são suficientes. O especialista pontuou que a velocidade no desenvolvimento de capacidades e na autonomia dos sistemas de inteligência artificial exige um ritmo de segurança que, atualmente, ainda enfrenta desafios para acompanhar a evolução tecnológica.