OpenAI cria 'fábrica de defesa' para automatizar segurança de modelos
A OpenAI realocou 25% de sua equipe de engenharia para utilizar modelos de IA na detecção e correção automatizada de vulnerabilidades críticas.
||
06/10 às 18:15
Pontos principais
- A OpenAI realocou 25% de seus engenheiros de produção para focar exclusivamente em segurança e arquitetura de defesa.
- A empresa utiliza seus próprios modelos para realizar varreduras automatizadas em busca de vulnerabilidades.
- O processo resultou na identificação e correção de problemas classificados como críticos (P0).
- A estratégia visa criar um ciclo contínuo de testes de segurança a cada novo lançamento de modelo.
- Greg Brockman descreveu o sistema como uma 'fábrica de defesa' automatizada.
A OpenAI estabeleceu uma nova estrutura interna focada em segurança, realocando 25% de seus engenheiros de produção para a área. O sistema, descrito por Greg Brockman como uma 'fábrica de defesa', utiliza os próprios modelos da empresa para realizar varreduras automatizadas. Essa estratégia permitiu a identificação e correção de vulnerabilidades críticas, estabelecendo um ciclo contínuo de testes de segurança para cada novo lançamento de modelo.
Comentários
Carregando comentários...