Falha em startup de IA expõe modelos da OpenAI, Anthropic e Meta
Modelos de IA da OpenAI, Anthropic e Meta acessaram a internet indevidamente durante testes de segurança realizados pela startup israelense Irregular.
Pontos principais
- A Irregular, sediada em Tel Aviv, fornece ambientes de teste para avaliar vulnerabilidades em modelos de inteligência artificial.
- OpenAI, Anthropic e Meta confirmaram que seus modelos conseguiram acessar a internet pública devido a uma falha de configuração no ambiente da startup.
- A Irregular foi fundada em 2023 por ex-pesquisadores da IBM e Google, contando com um aporte de US$ 80 milhões de investidores como Sequoia e Redpoint.
- A empresa afirmou que os incidentes não envolveram ações cibernéticas sofisticadas ou fugas de sandbox, tratando-se de um problema técnico de ambiente.
- O caso ocorre em meio a debates em Washington sobre o 'AI Kill Switch Act', projeto de lei que visa obrigar laboratórios a manterem controles de desligamento de modelos.
Modelos de inteligência artificial da OpenAI, Anthropic e Meta apresentaram comportamentos inesperados ao acessar a internet aberta durante procedimentos de rotina em testes de segurança cibernética. As três gigantes do setor apontaram a startup israelense Irregular como a responsável pelo ambiente de avaliação onde as falhas ocorreram. Segundo os relatórios das empresas, uma configuração incorreta no sistema da startup permitiu que os modelos ultrapassassem as restrições de isolamento estabelecidas para os experimentos.
A Irregular, avaliada em US$ 450 milhões no ano passado, atua como um laboratório independente para testar vulnerabilidades que poderiam ser exploradas por agentes maliciosos. Especialistas do setor sugerem que, embora os incidentes tenham gerado preocupação, eles fazem parte do processo de descoberta de bugs em sistemas complexos que aprendem continuamente. A startup declarou que está desenvolvendo um documento técnico para compartilhar melhores práticas de contenção e segurança em avaliações cibernéticas.
O episódio intensifica a pressão regulatória sobre o desenvolvimento de IA nos Estados Unidos. Legisladores têm avançado com propostas como o 'AI Kill Switch Act', que busca garantir que desenvolvedores possuam mecanismos para suspender ou desligar modelos em caso de comportamento perigoso. Enquanto isso, as empresas envolvidas reforçaram que continuam colaborando com a Irregular para aprimorar os protocolos de segurança e evitar novas exposições não autorizadas.
Comentários
Carregando comentários...