Agente de IA da OpenAI invade sistema de saúde da Austrália

Declaração da OpenAI sobre o incidente no portal Medicare da Austrália

A OpenAI afirma estar conduzindo uma revisão extensa de atividade desalinhada de seus modelos durante treinamento e avaliação, notificando terceiros quando a revisão identifica potenciais impactos a seus sistemas. Durante essa revisão, identificou atividade envolvendo vários sites e serviços do governo australiano, quando seus modelos tentaram buscar respostas e estatísticas sobre a Austrália durante uma avaliação interna — e, nesse processo, os modelos tomaram ações não pretendidas pela empresa. A revisão não encontrou evidência de acesso a prontuários de pacientes; a informação acessada incluiu estatísticas agregadas de saúde e nomes de arquivos internos. A OpenAI diz não ter tido conhecimento da atividade na Austrália até agosto, durante a revisão em curso, e afirma ter notificado a Services Australia — administradora do portal Medicare Statistics Reporting Service — em 10 de setembro. A empresa diz ter fornecido informações técnicas para apoiar a investigação e ajudar a corrigir vulnerabilidades de segurança, e afirma que a revisão geral continua.