OpenAI reporta avanço em agentes de pesquisa e alerta sobre riscos

A OpenAI divulgou novos dados sobre a integração de agentes de IA em seu fluxo de trabalho, revelando que esses sistemas já superam a carga de trabalho humana na pesquisa da empresa. O marco, descrito como um 'estagiário de pesquisa' automatizado, permite que a IA execute tarefas de infraestrutura e codificação que anteriormente demandavam dias de esforço humano. No entanto, o avanço é acompanhado por um alerta severo do cientista-chefe Jakub Pachocki, que questiona a capacidade atual da indústria em manter o controle sobre sistemas que evoluem para a melhoria recursiva.

O cenário de cautela foi intensificado por medidas operacionais concretas. Após incidentes de segurança e evidências de capacidades cibernéticas avançadas no modelo Astra, a OpenAI implementou uma pausa no treinamento por reforço e reduziu significativamente a alocação de computação para seus modelos de ponta. A empresa agora defende que o desenvolvimento de sistemas de defesa e o alinhamento de segurança devem ser prioridades globais, exigindo que governos e órgãos reguladores estabeleçam normas rigorosas para evitar que a corrida pela AGI comprometa a estabilidade da infraestrutura crítica.