Anthropic dará acesso permanente a avaliadores externos de segurança
A empresa de IA se comprometeu a permitir que terceiros verifiquem seus sistemas de segurança como parte de um novo plano de desaceleração do setor.
Pontos principais
- Dario Amodei, CEO da Anthropic, anunciou o compromisso unilateral de abrir sistemas para auditoria externa.
- Avaliadores terão acesso de nível de funcionário para monitorar o alinhamento de modelos durante o treinamento.
- A medida integra um plano de três etapas proposto pelo executivo para aumentar a segurança na indústria de IA.
- O objetivo é garantir a verificação independente da adesão aos protocolos de segurança estabelecidos pela empresa.
A Anthropic anunciou um compromisso unilateral para conceder a avaliadores terceiros acesso permanente e de nível de funcionário aos seus sistemas de inteligência artificial. A iniciativa visa permitir que especialistas externos verifiquem, de forma independente, se a empresa está cumprindo rigorosamente seus protocolos de segurança e as diretrizes de alinhamento de modelos durante o processo de treinamento.
O anúncio foi feito pelo CEO da companhia, Dario Amodei, como parte de um plano de três etapas voltado para a governança do setor. Em um novo ensaio, o executivo defendeu que a indústria de IA de fronteira deve desacelerar o ritmo de desenvolvimento para priorizar a segurança. A medida busca estabelecer um padrão de transparência inédito, permitindo que avaliadores reportem incidentes e validem a integridade dos sistemas antes de sua implementação em larga escala.
Tópicos relacionados
Cobertura da mídia
‘We must slow the pace’: CEO of Anthropic calls for an AI slowdown
The Guardian World • 12 set, 12:46
@DarioAmodei: We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
x.com • 12 set, 11:01
Dario Amodei says Anthropic is "unilaterally committing" to giving third-party evaluators permanent access to verify its adherence to safety measures (Dario Amodei/@darioamodei)
Techmeme • 12 set, 11:25
Leia também
Anthropic concede acesso interno a pesquisadores da METR para auditoria de IA
15 out, 14:45
CEO da Anthropic propõe regulação para o desenvolvimento de IA
18 set, 14:45
CEO da Anthropic defende desaceleração no desenvolvimento de IA
12 set, 12:45
CEO da Anthropic propõe regulação de modelos de IA nos moldes da FAA
10 jun, 17:15
CEO da Anthropic propõe testes obrigatórios para modelos de IA de fronteira
10 jun, 17:15
Comentários (0)
Seja o primeiro a comentar.
