---
title: "OpenAI inicia avaliações externas de segurança com quatro empresas"
url: https://dailyjournal.news/news/2026-11-16/openai-inicia-parceria-para-avaliacoes-externas-de-seguranca-em-ia
published: 2026-11-16T16:45:16.966346+00:00
updated: 2026-11-16T18:02:41.936+00:00
categories: ["technology"]
topics: ["openai"]
source_count: 5
outlet_count: 3
language: pt-BR
publisher: "Daily Journal"
---

# OpenAI inicia avaliações externas de segurança com quatro empresas

A OpenAI firmou parcerias com Apollo Research, METR, Transluce e Goodfire para submeter seus modelos de IA a auditorias independentes de alinhamento e segurança.

## Pontos principais

- A iniciativa envolve a integração de especialistas externos nos sistemas internos da OpenAI.
- Apollo Research investigará comportamentos de subversão e a eficácia de mecanismos de detecção.
- A METR focará na análise de comportamentos desalinhados durante grandes execuções de aprendizado por reforço.
- A Transluce avaliará a cobertura e a qualidade dos processos de alinhamento pós-treinamento.
- A Goodfire utilizará sua plataforma de interpretabilidade para analisar o funcionamento interno dos modelos.
- O projeto piloto inclui a incorporação de seis pesquisadores da Apollo Research para monitoramento direto.
- A OpenAI impôs restrições de acesso a dados e sistemas, mantendo controle sobre as informações divulgadas.

A OpenAI anunciou o início da primeira fase de suas avaliações integradas, estabelecendo parcerias estratégicas com as organizações Apollo Research, METR, Transluce e Goodfire. Segundo a empresa, o objetivo central é permitir que especialistas externos tenham acesso profundo aos modelos e sistemas internos, visando analisar o alinhamento, a eficácia das salvaguardas e os sistemas de monitoramento da tecnologia. A iniciativa busca identificar riscos potenciais, como comportamentos de subversão, onde modelos poderiam tentar ocultar erros ou contornar regras de segurança estabelecidas pelos desenvolvedores.

Cada parceiro desempenhará uma função específica no escrutínio dos modelos. A Apollo Research, por exemplo, incorporará seis pesquisadores para investigar se a IA atua contra as intenções dos desenvolvedores, enquanto a Goodfire utilizará sua plataforma de interpretabilidade para auxiliar na depuração e no monitoramento interno. Embora a OpenAI tenha aberto seus sistemas para essa auditoria, a empresa impôs restrições ao acesso a dados e funcionários, mantendo o controle sobre quais informações podem ser compartilhadas publicamente. O movimento ocorre em um momento em que a companhia busca reforçar a transparência e a segurança de suas ferramentas após incidentes anteriores envolvendo testes de modelos.

## Fontes

- [Our first phase of embedded assessments](https://openai.com/index/our-first-phase-of-embedded-assessments) — OpenAI (2026-11-16)
- [@gdb: launching our first round of embedded assessments: https://t.co/Ty8ey4snZU](https://x.com/gdb/status/2122371202169905639) (2026-11-16)
- [OpenAI will embed Apollo researchers to investigate AI subversion](https://techcrunch.com/2026/11/16/openai-will-embed-apollo-researchers-to-investigate-ai-subversion/) — TechCrunch (2026-11-16)
- [@OpenAI: We’re working with @ApolloResearch, @METR_Evals, @TransluceAI, and @GoodfireAI on embedded assessments: giving outside experts deep access to our internal models and systems to inv…](https://x.com/OpenAI/status/2122359930628063248) (2026-11-16)
- [OpenAI says it has signed agreements with independent assessors Apollo Research, METR, Transluce, and Goodfire for its first phase of embedded assessments (OpenAI)](https://www.techmeme.com/261116/p33#a261116p33) — Techmeme (2026-11-16)

## Tópicos relacionados

- [OpenAI](https://dailyjournal.news/topics/openai)

---

Publicado por Daily Journal. Versão HTML: https://dailyjournal.news/news/2026-11-16/openai-inicia-parceria-para-avaliacoes-externas-de-seguranca-em-ia
