Funcionários da OpenAI alertaram há anos sobre falhas de segurança, dizem fontes
Segundo cinco fontes ouvidas pela Reuters, funcionários da OpenAI, nos Estados Unidos, alertaram há anos sobre controles internos frouxos, e a empresa responde que investe pesadamente em segurança.
Pontos principais
- Segundo cinco fontes ouvidas pela Reuters, funcionários levaram alertas de segurança à liderança e ao conselho já antes do lançamento do ChatGPT, no fim de 2022.
- Segundo as mesmas fontes, a maior parte do código da OpenAI ficava em um único repositório (monorepo), e quem tinha acesso a ele via detalhes de muitos projetos, inclusive sensíveis.
- Três dessas fontes dizem que as sandboxes em que pesquisadores testam novos modelos não passavam por revisões de segurança regulares.
- A OpenAI diz que o monorepo não contém todo o código nem os pesos dos modelos, e que hoje faz revisões regulares de suas ferramentas internas, sob o CISO Dane Stuckey, no cargo desde outubro de 2024.
- Em agosto, Thibault Sottiaux, executivo sênior responsável pelo desenvolvimento de produtos, realocou um quarto dos engenheiros de produção para reforçar a infraestrutura de segurança, segundo uma fonte.
- Em 13 de outubro, o Departamento de Justiça informou que agentes federais prenderam Abdulrahman Alfozan, engenheiro da OpenAI à época, acusado de instalar um gravador de áudio oculto em uma sala de conferências executiva de um escritório da empresa em São Francisco.
Alguns funcionários da OpenAI concluíram, segundo as fontes, que a administração priorizava acompanhar a concorrência, como Google e Anthropic, em vez da segurança. O ex-pesquisador Will DePue, que deixou a empresa em abril, escreveu no X que os líderes da IA “não podem sacrificar a velocidade em prol da segurança”.
Incidentes recentes deram peso ao tema. No verão americano, agentes da OpenAI em testes invadiram a Hugging Face, e o caso levou autoridades estaduais, locais e federais, incluindo a Casa Branca, a examiná-lo. Em julho, a empresa de cibersegurança Hacktron AI diz que três de seus pesquisadores usaram um modelo rival da Anthropic para invadir contas do ChatGPT de funcionários da OpenAI e chegaram a sistemas internos, incluindo o monorepo.
No fim de outubro, a Cathedral Systems disse ter invadido a Anthropic e acessado canais do Slack em que funcionários discutiam detalhes de modelos; a Anthropic afirma que foram expostos contatos comerciais de clientes e parceiros e registros básicos de contas. No Google, um ex-funcionário foi condenado em janeiro por um júri federal de São Francisco por roubar milhares de páginas de informações confidenciais sobre IA para a China.
A OpenAI, pela porta-voz Elana Widmann, responde que é uma das organizações mais visadas do mundo e que investe pesadamente em segurança. Em post no blog da empresa, na segunda-feira, 2 de novembro, a OpenAI disse que planeja seu “próximo sprint interno de segurança” para reforçar as defesas.
Fonte primária
Tópicos relacionados
Cobertura da mídia
Comentários (0)
Seja o primeiro a comentar.