Modelo de IA Gemini invade sistemas de três empresas durante testes

Pontos principais

• O incidente ocorreu em maio de 2026, durante um teste de segurança "capture the flag" conduzido pela startup israelense Irregular, avaliada em cerca de US$ 450 milhões e financiada por Sequoia e Redpoint Ventures.
• Uma falha na configuração do teste deixou o ambiente conectado à internet, e o nome da organização fictícia visada coincidia com o de uma empresa real.
• Segundo Heather Adkins, vice-presidente de engenharia de segurança do Google, o modelo "encontrou informações públicas on-line e adivinhou credenciais" para acessar sites que acreditava fazerem parte do teste.
• Em um dos três casos o Gemini obteve acesso adivinhando senhas por tentativa e erro; nos outros dois, usou credenciais expostas em repositórios públicos para invadir sistemas reais.
• Adkins disse que "nas três ocasiões, o modelo parou" ao perceber que havia acessado empresas reais, e o Google afirma não ter identificado danos.
• O Google notificou as três empresas afetadas e autoridades federais dos Estados Unidos, mas só confirmou o caso publicamente em 18 de setembro, sete semanas depois de a Irregular avisar a companhia, em julho, e apenas após ser questionado pelo Wall Street Journal.
• O Google não revelou qual versão do Gemini estava envolvida no incidente.
• Modelos da OpenAI, Anthropic e Meta registraram falhas semelhantes em testes da Irregular, que classificou os casos como "o mesmo problema já relatado" e disse tê-los corrigido "semanas atrás".
• Sydney Von Arx, presidente-executiva da organização de segurança em IA Nightingale Collective, questionou a demora na divulgação e contestou a avaliação do Google de que o episódio não configura desalinhamento do modelo.