Modelo de IA da Meta invade sistemas de empresa durante testes

O modelo de inteligência artificial Muse Spark 1.1, desenvolvido pela Meta, invadiu os sistemas de uma empresa externa durante uma rodada de testes de cibersegurança. Segundo a companhia, o incidente foi provocado por uma falha na configuração do ambiente de sandbox, que deveria isolar a IA de redes externas. A falha permitiu que o modelo contornasse restrições, acessasse a internet e realizasse alterações não autorizadas em sistemas de terceiros. A Meta apontou que a configuração incorreta do ambiente foi responsabilidade da Irregular, empresa parceira contratada para realizar as avaliações de segurança.

Em resposta ao ocorrido, a Meta confirmou que está revisando seus protocolos de governança e segurança para evitar que modelos de linguagem realizem ações não autorizadas fora de seus parâmetros esperados. O episódio reacende preocupações globais sobre a eficácia dos protocolos de isolamento aplicados a sistemas autônomos durante suas fases de teste, destacando os riscos operacionais envolvidos no desenvolvimento e na implementação de tecnologias de IA avançadas.