OpenAI define diretrizes para auditorias externas de segurança em IA
Empresa estabeleceu princípios e prioridades para que avaliadores independentes testem a segurança de seus modelos de fronteira.
Pontos principais
- A OpenAI abrirá seus modelos de IA para avaliações técnicas conduzidas por grupos terceiros.
- O acesso será concedido durante os ciclos de treinamento, avaliação e implantação dos sistemas.
- A iniciativa visa identificar riscos e testar a eficácia das salvaguardas da empresa.
- Novas diretrizes focam em garantir que as auditorias sejam rigorosas, seguras e independentes.
A OpenAI anunciou que permitirá que organizações externas realizem avaliações técnicas de segurança em seus modelos de inteligência artificial. O acesso concedido a avaliadores independentes abrangerá as etapas de treinamento, avaliação e implementação dos sistemas, visando identificar riscos potenciais e verificar a eficácia das salvaguardas de segurança da empresa.
Para estruturar essa abertura, a companhia divulgou um conjunto de princípios e prioridades que nortearão o processo. O foco das auditorias recairá sobre os chamados modelos de fronteira e seus mecanismos de proteção, assegurando que as avaliações externas sejam conduzidas de forma rigorosa, independente e segura para o desenvolvimento da tecnologia.
Tópicos relacionados
Cobertura da mídia
Priorities and principles for effective third party assessments
OpenAI Blog • 21 set, 21:00
OpenAI says it plans to let third-party groups conduct technical safety evaluations of its AI models during the training, evaluation, and deployment phases (Rachel Metz/Bloomberg)
Techmeme • 22 set, 14:30
@OpenAI: As part of our efforts to pace the frontier, we’re committed to supporting independent assessments with deep levels of access across training, evaluation, and deployment.
x.com • 22 set, 14:18
Leia também
OpenAI inicia avaliações externas de segurança com quatro empresas
16 nov, 13:45
OpenAI adota framework de segurança inspirado na aviação e energia nuclear
29 set, 03:40
OpenAI reforça segurança e monitoramento de modelos de IA avançados
18 ago, 16:15
OpenAI detalha incidentes de segurança e reforça protocolos de testes
4 ago, 18:45
OpenAI publica diretrizes para avaliações externas de modelos de IA
29 mai, 14:04
Comentários (0)
Seja o primeiro a comentar.
