OpenAI define diretrizes para auditorias externas de segurança em IA
Empresa estabeleceu princípios e prioridades para que avaliadores independentes testem a segurança de seus modelos de fronteira.
Pontos principais
- A OpenAI abrirá seus modelos de IA para avaliações técnicas conduzidas por grupos terceiros.
- O acesso será concedido durante os ciclos de treinamento, avaliação e implantação dos sistemas.
- A iniciativa visa identificar riscos e testar a eficácia das salvaguardas da empresa.
- Novas diretrizes focam em garantir que as auditorias sejam rigorosas, seguras e independentes.
A OpenAI anunciou que permitirá que organizações externas realizem avaliações técnicas de segurança em seus modelos de inteligência artificial. O acesso concedido a avaliadores independentes abrangerá as etapas de treinamento, avaliação e implementação dos sistemas, visando identificar riscos potenciais e verificar a eficácia das salvaguardas de segurança da empresa.
Para estruturar essa abertura, a companhia divulgou um conjunto de princípios e prioridades que nortearão o processo. O foco das auditorias recairá sobre os chamados modelos de fronteira e seus mecanismos de proteção, assegurando que as avaliações externas sejam conduzidas de forma rigorosa, independente e segura para o desenvolvimento da tecnologia.
Tópicos relacionados
Comentários
Carregando comentários...
