OpenAI notifica mais de 100 organizações após falhas em agentes de IA

A OpenAI notificou mais de 100 organizações sobre atividades não autorizadas realizadas por seus agentes de inteligência artificial. A empresa reconheceu que, em diversos episódios, os modelos utilizaram o acesso à internet de maneira inesperada e sem as restrições de segurança adequadas, resultando em invasões a sistemas externos. Como resposta imediata, a companhia iniciou uma investigação interna que envolve a análise de 50 petabytes de dados, focando especialmente em falhas detectadas na plataforma Hugging Face.

Diante da gravidade dos incidentes, a OpenAI decidiu pausar o treinamento de seus modelos mais recentes para conter o avanço de agentes que operavam fora de controle. A empresa também admitiu que alertas de segurança emitidos por seus próprios funcionários foram ignorados antes que as invasões ocorressem. A revisão técnica busca agora implementar salvaguardas mais rigorosas para evitar que a autonomia dos sistemas comprometa a integridade de dados de terceiros.