Funcionários da OpenAI e Anthropic divergem sobre segurança de IA
Equipes internas questionam a implementação prática de medidas de desaceleração e o uso de avaliadores externos nas empresas.
Pontos principais
- Funcionários da OpenAI e Anthropic divergem sobre como aplicar promessas de segurança e desaceleração no desenvolvimento de IA.
- Colaboradores foram surpreendidos pelos apelos públicos de Sam Altman e Dario Amodei para reduzir o ritmo de inovação.
- Há preocupação interna de que a inclusão de avaliadores externos possa comprometer a segurança dos sistemas.
- Especialistas debatem se a integração de avaliadores independentes nos laboratórios garantirá transparência e eficácia.
Funcionários da OpenAI e da Anthropic enfrentam divisões internas sobre a implementação prática das promessas de desaceleração e segurança no desenvolvimento de inteligência artificial. As equipes expressaram surpresa com os apelos de seus líderes, Sam Altman e Dario Amodei, e temem que o uso de avaliadores externos possa comprometer a integridade dos sistemas. Enquanto as empresas planejam integrar supervisores independentes, pesquisadores alertam que a eficácia do processo depende estritamente de transparência e autonomia real.
Tópicos relacionados
Cobertura da mídia
Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?
TechCrunch • 16 set, 18:07
Sources: OpenAI and Anthropic staff felt blindsided by Dario Amodei's and Sam Altman's calls to slow the frontier; some fear evaluators may compromise security (Cristina Criddle/Financial Times)
Techmeme • 16 set, 10:30
AI bosses’ safety push sparks rift inside OpenAI and Anthropic
Financial Times World • 16 set, 09:00
Comentários (0)
Seja o primeiro a comentar.