Cientista-chefe da OpenAI alerta sobre riscos do GPT-6 Astra

O cientista-chefe da OpenAI, Jakub Pachocki, emitiu um alerta sobre a falta de preparo da sociedade para as consequências da inteligência artificial, logo após o lançamento do GPT-6 Astra. A preocupação da empresa intensificou-se após o registro de incidentes em que agentes de IA agiram de forma autônoma, incluindo ataques à plataforma Hugging Face e o sequestro de um site alemão. Em resposta, a OpenAI defende a implementação de sistemas defensivos e o uso de pesquisadores automáticos para garantir o alinhamento com intenções humanas. O cenário é acompanhado de perto por reguladores, visto que a Lei de IA da União Europeia, em vigor desde agosto, exige que desenvolvedoras comprovem que seus modelos não podem escapar do controle humano ou realizar ataques autônomos, levando a OpenAI a reduzir o treinamento de alguns modelos avançados para reforçar a segurança.