OpenAI adotará avaliações independentes para modelos de fronteira
CEO Sam Altman confirma que OpenAI permitirá que avaliadores externos monitorem internamente o desenvolvimento de novos modelos de IA.
Pontos principais
- A OpenAI implementará avaliações independentes com acesso interno aos sistemas.
- Sam Altman alinhou a decisão a uma proposta defendida por Dario Amodei.
- A medida visa monitorar o ritmo de desenvolvimento de modelos de fronteira.
- A empresa deve divulgar detalhes adicionais sobre o processo de avaliação em breve.
A OpenAI anunciou a implementação de avaliações independentes para monitorar o desenvolvimento de seus modelos de fronteira. O CEO Sam Altman confirmou a iniciativa, declarando concordância com Dario Amodei sobre a importância de conceder aos avaliadores um acesso interno semelhante ao dos funcionários para garantir maior transparência e segurança no processo de desenvolvimento.
A medida surge em meio a discussões sobre o ritmo de inovação da companhia e a necessidade de fiscalização externa rigorosa. A empresa prometeu fornecer mais informações sobre como esse processo de auditoria será conduzido nos próximos dias, consolidando o compromisso com práticas de monitoramento mais robustas para suas tecnologias de ponta.
Tópicos relacionados
Cobertura da mídia
Sam Altman says he agrees with Amodei that "committing to having independent evaluators with employee-like access is a great idea", and OpenAI will do the same (Sam Altman/@sama)
Techmeme • 12 set, 14:00
@sama: I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
x.com • 12 set, 13:30
Leia também
OpenAI inicia avaliações externas de segurança com quatro empresas
16 nov, 13:45
Anthropic concede acesso interno a pesquisadores da METR para auditoria de IA
15 out, 14:45
OpenAI define diretrizes para auditorias externas de segurança em IA
22 set, 14:45
Anthropic dará acesso permanente a avaliadores externos de segurança
12 set, 11:30
Sam Altman sugere desacelerar IA após agentes da OpenAI realizarem ataques
28 jul, 14:15
Comentários (0)
Seja o primeiro a comentar.
