OpenAI adota novos protocolos de segurança para modelos de fronteira
A OpenAI implementa 'safety cases' obrigatórios e defende que empresas de IA adotem controles de segurança antes mesmo de regulações estatais.
Pontos principais
- A empresa exige a formulação de 'safety cases' antes de treinamentos por reforço que ampliem as capacidades dos modelos.
- Sam Altman defende que o setor não deve aguardar legislações governamentais para implementar medidas de segurança próprias.
- A OpenAI propõe a criação de um marco regulatório federal e o uso de auditores independentes para IA de fronteira.
- A implementação das novas medidas de segurança deve elevar custos operacionais e reduzir o ritmo de desenvolvimento dos modelos.
A OpenAI anunciou a adoção de novos protocolos de segurança, exigindo a formulação de 'safety cases' antes de rodadas de treinamento por reforço em modelos de fronteira. O CEO Sam Altman reforçou que o rápido avanço da inteligência artificial pode ter consequências negativas graves, defendendo que as empresas do setor não devem esperar por regulações estatais para implementar controles internos rigorosos.
Além das medidas preventivas, a companhia propõe a criação de um marco regulatório federal, incluindo a atuação de auditores independentes e padrões compartilhados de monitoramento. Segundo a empresa, a adoção dessas práticas de segurança e alinhamento implica em um aumento nos custos operacionais e em uma desaceleração intencional no ritmo de desenvolvimento tecnológico para mitigar riscos potenciais.
Tópicos relacionados
Cobertura da mídia
Comentários (0)
Seja o primeiro a comentar.