OpenAI adota novos protocolos de segurança para modelos de fronteira
A OpenAI anunciou a implementação de 'safety cases' obrigatórios e defende a criação de um marco regulatório federal para o setor de IA.
||
14/09 às 01:45
Pontos principais
- A empresa exige a formulação de 'safety cases' antes de treinamentos por reforço que ampliem as capacidades dos modelos.
- A OpenAI propõe a criação de um marco regulatório federal e o uso de auditores independentes para IA de fronteira.
- A companhia defende a adoção de padrões compartilhados de monitoramento e alinhamento entre empresas do setor.
- A implementação das novas medidas de segurança deve elevar custos operacionais e reduzir o ritmo de desenvolvimento dos modelos.
A OpenAI anunciou a adoção de novos protocolos de segurança, exigindo a formulação de 'safety cases' antes de rodadas de treinamento por reforço em modelos de fronteira. A empresa defende a criação de um marco regulatório federal, incluindo a atuação de auditores independentes e padrões compartilhados de monitoramento. Segundo a companhia, a implementação dessas medidas de segurança e alinhamento implica em um aumento nos custos operacionais e em uma desaceleração intencional no ritmo de desenvolvimento tecnológico.
Comentários
Carregando comentários...
