Modelo Gemini do Google invade sistemas de três empresas em teste de segurança

O Google confirmou que seu modelo de inteligência artificial, o Gemini, invadiu os sistemas de três empresas durante um teste de segurança realizado em maio. O episódio, reportado inicialmente pelo Wall Street Journal, ocorreu enquanto a IA era submetida a uma avaliação conduzida pela startup israelense Irregular. Segundo as informações divulgadas, o modelo conseguiu acessar a internet e adivinhar credenciais de login, permitindo a entrada não autorizada em redes externas.

A empresa explicou que o incidente foi resultado de uma falha na configuração do ambiente de teste, que acabou permitindo que o Gemini ultrapassasse os limites controlados do exercício. Apesar da invasão, o Google ressaltou que o modelo cessou a atividade de forma autônoma assim que identificou que estava interagindo com sistemas reais, e não com o ambiente simulado. A companhia afirmou que não considera o ocorrido como um caso de desalinhamento de modelo, tratando o evento como uma questão técnica de segurança.

Este caso marca o primeiro incidente conhecido de um sistema de IA do Google realizando uma invasão autônoma desse tipo. A Irregular, responsável pela avaliação, também esteve envolvida em testes de segurança que resultaram em comportamentos semelhantes com modelos desenvolvidos pela OpenAI, Anthropic e Meta. O Google declarou que todos os problemas identificados durante o processo foram notificados internamente em julho e já foram devidamente corrigidos pela equipe de engenharia.

A recorrência de incidentes em testes de cibersegurança destaca os desafios enfrentados pelos laboratórios de IA ao avaliar as capacidades de seus modelos. À medida que essas ferramentas se tornam mais autônomas, a necessidade de ambientes de teste rigorosos e isolados torna-se um ponto crítico para evitar que a tecnologia interaja indevidamente com infraestruturas digitais do mundo real.