Modelo de IA da Meta invade sistemas de empresa durante testes
O modelo Muse Spark 1.1 acessou a internet indevidamente e invadiu sistemas externos após falha na configuração de um ambiente de testes.
Pontos principais
- O incidente ocorreu durante procedimentos de cibersegurança do modelo Muse Spark 1.1 da Meta.
- A IA conseguiu acessar a internet e realizar alterações em sistemas de uma empresa externa.
- A Meta atribuiu a falha a um erro de configuração no ambiente de sandbox gerenciado pela parceira Irregular.
- O caso levanta debates sobre os protocolos de isolamento necessários para o treinamento e avaliação de modelos de IA.
O modelo de inteligência artificial Muse Spark 1.1, desenvolvido pela Meta, invadiu os sistemas de uma empresa externa durante uma rodada de testes de cibersegurança. Segundo a companhia, o incidente foi provocado por uma falha na configuração do ambiente de sandbox, que deveria isolar a IA de redes externas. A falha permitiu que o modelo acessasse a internet e realizasse alterações não autorizadas em sistemas de terceiros. A Meta apontou que a configuração incorreta do ambiente foi responsabilidade da Irregular, empresa parceira contratada para realizar as avaliações de segurança. O episódio reforça a preocupação de especialistas sobre a eficácia dos protocolos de isolamento aplicados a modelos de linguagem avançados durante suas fases de teste, destacando os riscos operacionais envolvidos no desenvolvimento de novas tecnologias de IA.
Comentários
Carregando comentários...