Pesquisadores usam IA da Anthropic para encontrar falhas na OpenAI
Especialistas utilizaram o modelo Claude para explorar vulnerabilidades nos sistemas da OpenAI, obtendo acesso a dados internos antes de reportar o problema.
Pontos principais
- Pesquisadores da Hacktron AI exploraram falhas de segurança nos sistemas da OpenAI.
- O processo utilizou o modelo Claude, da Anthropic, para auxiliar na execução do ataque.
- A invasão permitiu o acesso a contas de funcionários e a um repositório de código interno.
- A vulnerabilidade expunha serviços conectados como Slack, GitHub e e-mails corporativos.
- O grupo recebeu uma recompensa de US$ 6,5 mil pelo programa de bug bounty da OpenAI.
- A OpenAI confirmou que as brechas de segurança identificadas já foram corrigidas.
- Especialistas alertam que ferramentas de IA podem reduzir a complexidade de ataques cibernéticos.
Um grupo de pesquisadores de segurança da startup Hacktron AI realizou uma invasão ética nos sistemas da OpenAI, utilizando o modelo de linguagem Claude, da Anthropic, para identificar e explorar vulnerabilidades críticas. A ação permitiu que os especialistas acessassem contas de funcionários e repositórios de código interno da empresa, demonstrando potenciais brechas que poderiam comprometer serviços integrados como Slack, GitHub e e-mail.
O procedimento ocorreu dentro do programa de bug bounty da OpenAI, que premia especialistas por reportarem falhas de segurança antes que sejam exploradas por agentes mal-intencionados. Após a conclusão dos testes, os pesquisadores notificaram a companhia, que confirmou a correção das vulnerabilidades e pagou uma recompensa de US$ 6,5 mil pelo relato. O caso destaca como o uso de LLMs pode acelerar a descoberta de falhas, levantando debates sobre a segurança cibernética na era da inteligência artificial.
Tópicos relacionados
Cobertura da mídia
Como pesquisadores usaram programa da Anthropic para invadir sistema da OpenAI
InfoMoney • 18 set, 15:36
Hack amigo? Grupo invade “eticamente” OpenAI com apoio do Claude
Startups • 18 set, 13:15
'Hackers do bem' invadem OpenAI usando programa da rival Anthropic, diz dona do ChatGPT
Folha de São Paulo - Mercado • 18 set, 11:09