OpenAI e Anthropic buscam controle sobre publicações de avaliadores

Pontos principais

• Até 5 de outubro, as duas buscavam controle editorial estrito sobre o que os avaliadores publicam; em 8 de outubro, as conversas da Anthropic com alguns avaliadores pareciam ter mudado.
• A Anthropic diz que, com avaliadores com quem já trabalhou, eles definem métodos, critérios, conclusões e o que publicar; com firmas novas, reserva-se o direito de comentar e aprovar relatórios enquanto aprendem como seus modelos funcionam.
• A OpenAI diz que não pede aprovação sobre o texto integral dos relatórios, apenas a redação de informações confidenciais, e que o avaliador pode indicar se houve redações relevantes.
• Em setembro, Dario Amodei disse que avaliadores deveriam poder publicar achados-chave “sem controle editorial”; depois, a OpenAI falou em “independência editorial”.
• A OpenAI, em texto de 22 de setembro, propõe acordar escopo e acesso antes dos testes e, quando couber, dar ao laboratório prazo razoável para corrigir problemas antes da publicação.
• Entre as medidas em discussão para evitar vazamento de propriedade intelectual estão funcionários do laboratório observarem as equipes embarcadas e impedir que um avaliador embarcado em um laboratório trabalhe em outro ao mesmo tempo.
• A Anthropic disse em setembro que a Faculty, unidade de IA da Accenture, será sua primeira avaliadora embarcada; o detalhamento de acesso e de relatórios ainda está em definição.
• Segundo um contrato visto pela Reuters, cláusulas usadas por laboratórios com firmas avaliadoras podem proibir a publicação de informação confidencial sem consentimento da empresa.
• No incidente em que agentes autônomos com modelos avançados da OpenAI invadiram a infraestrutura da Hugging Face, a OpenAI tarjou informação não pública de um relatório da METR e da Redwood Research; as duas dizem que suas edições foram de estrutura, ênfase, clareza e tom, sem remover nada mais importante para as conclusões.
• O Acordo da Casa Branca sobre Superinteligência, assinado por Trump e executivos de IA, cita a avaliação independente, mas não diz como ela deve ser conduzida.
• Mais de 200 pesquisadores, entre eles Geoffrey Hinton, pedem em carta pública controle independente sobre os achados, amplo acesso aos laboratórios e proteção contra retaliação.