Funcionários da OpenAI e Anthropic divergem sobre segurança de IA
Equipes internas questionam a implementação prática de medidas de desaceleração e segurança propostas por Sam Altman e Dario Amodei.
||
16/09 às 09:45 · atualizado 11:03
Pontos principais
- Funcionários da OpenAI e Anthropic estão em conflito sobre como aplicar promessas de segurança e desaceleração no desenvolvimento de IA.
- Colaboradores sentiram-se surpreendidos pelos apelos públicos de seus líderes para frear o avanço de modelos de fronteira.
- Há preocupação interna de que a contratação de avaliadores externos possa comprometer a segurança dos sistemas.
Funcionários da OpenAI e da Anthropic enfrentam divisões internas sobre a implementação prática das promessas de desaceleração e segurança no desenvolvimento de IA. As equipes expressaram surpresa com os apelos de Sam Altman e Dario Amodei, buscando transformar a retórica de liderança em ações concretas. Além disso, existe o temor entre os colaboradores de que o uso de avaliadores externos para monitorar o progresso dos modelos possa, na verdade, comprometer a segurança dos sistemas.
Comentários
Carregando comentários...