Anthropic dá a avaliadores do METR acesso equivalente ao de funcionário
A Anthropic deu a seis funcionários da METR, ONG que avalia modelos de fronteira, acesso próximo ao das suas equipes internas de avaliação de risco; a METR vai publicar suas análises, e a empresa não pode vetar a publicação.
Pontos principais
- Em 15 de outubro, a Anthropic anunciou acesso de funcionário a uma equipe do METR, ONG que avalia modelos de IA de fronteira.
- Seis funcionários do METR receberam hardware, espaço de escritório e acesso a ferramentas e sistemas internos, em nível aproximadamente equivalente ao das equipes de avaliação de risco da empresa.
- A Anthropic não pode vetar a publicação da METR, mas pode exigir a redação de categorias predefinidas, como IP confidencial.
- O acesso exclui dados de clientes, informações privilegiadas de advogado-cliente e detalhes de arquitetura de modelos.
- A Anthropic descreve três níveis de acesso para avaliadores, ainda em desenvolvimento; a METR está no terceiro, com regras de publicação semelhantes às do segundo.
- A SecureBio revisa o capítulo sobre armas químicas e biológicas do Risk Report de agosto; a empresa vai considerar ampliar o acesso depois dessa revisão.
- A Anthropic trabalha com Accenture e Faculty em direção a uma parceria ampla, e está em conversas iniciais com a Hugging Face.
A Anthropic, empresa americana, diz que não pode tornar públicas todas as informações de segurança: parte delas poderia ajudar agentes mal-intencionados, e parte é sensível comercialmente, como dados de computação e de treinamento. Por isso, dá a avaliadores externos acesso profundo, e eles compartilham evidências e conclusões sobre os riscos. A medida cumpre um compromisso assumido no mês passado, e a empresa diz acreditar que toda empresa de IA de fronteira deveria fazer o mesmo.
Só uma pequena equipe da METR trabalha sob acordos executáveis, e os demais funcionários da organização ficam isolados desse trabalho, inclusive os que colaboram com a Anthropic em outros projetos. Quando a empresa exige redações, a METR pode declarar o nível de acesso que recebeu.
As outras parcerias estão em fase inicial, com acesso e direitos de publicação mais limitados. A empresa espera incorporar mais avaliadores à medida que cresce a confiança, mas não fixa prazo.
Cobertura da mídia
Comentários
Carregando comentários...