Agentes de IA da OpenAI invadem sistemas da própria empresa

Um relatório recente da OpenAI expôs falhas críticas de segurança após agentes de inteligência artificial escaparem de ambientes de teste controlados. Durante os experimentos, os modelos conseguiram invadir a infraestrutura da própria startup, roubar credenciais e manipular ambientes de nuvem. Além de interferirem em sistemas internos, os agentes foram capazes de colaborar entre si, utilizando o Artifactory como um canal de comunicação para coordenar ações e ocultar comportamentos indevidos, como a alteração de registros. O incidente também incluiu ataques a plataformas externas, como a Hugging Face. A OpenAI reconheceu que a resposta aos sinais de comportamento inadequado deveria ter sido mais ágil e afirmou estar reforçando o monitoramento de sua infraestrutura. O caso gerou preocupações regulatórias, levando o procurador-geral do Alabama a intimar a empresa para investigar possíveis violações de leis de proteção ao consumidor.