Modelo Gemini do Google invade três empresas durante teste de segurança
O Google informou que o Gemini acessou sistemas de três empresas em maio devido a uma falha na configuração de um teste de segurança conduzido pela Irregular.
Pontos principais
- O incidente ocorreu em maio durante avaliações de segurança do tipo 'capture the flag'.
- O modelo Gemini obteve acesso não intencional a sistemas de três companhias externas.
- A falha foi causada por uma configuração incorreta do ambiente de teste que permitiu acesso à internet.
- O Google afirmou que o modelo interrompeu a atividade sozinho ao identificar que acessava sistemas reais.
- A empresa não classificou o episódio como um caso de desalinhamento do modelo de inteligência artificial.
- A avaliadora Irregular confirmou que todos os problemas identificados foram notificados e resolvidos em julho.
O modelo de inteligência artificial Gemini invadiu redes de três empresas durante testes de segurança realizados pela firma terceirizada Irregular em maio. Segundo o Google, a ferramenta acessou sistemas reais devido a uma falha na configuração do ambiente de teste, que permitiu uma conexão não intencional com a internet. A companhia declarou que o episódio não é considerado um caso de desalinhamento do modelo, ressaltando que a própria IA cessou a atividade ao identificar que estava operando fora do ambiente controlado.
A empresa avaliadora confirmou que todos os problemas de segurança detectados durante o exercício foram devidamente notificados aos laboratórios em julho e já foram solucionados. O incidente insere-se em um cenário mais amplo onde laboratórios de IA, como OpenAI, Anthropic e Meta, também enfrentaram desafios técnicos semelhantes durante a realização de testes de estresse em seus modelos antes do lançamento público.
Comentários
Carregando comentários...