Daily Journal
Daily Journal

Anthropic dará acesso permanente a avaliadores externos de segurança

A empresa de IA se comprometeu a permitir que terceiros verifiquem seus sistemas de segurança como parte de um novo plano de desaceleração do setor.

Daily Journal
Foto: The Guardian World
||
12/09 às 11:30, atualizado 13:01

Pontos principais

  • Dario Amodei, CEO da Anthropic, anunciou o compromisso unilateral de abrir sistemas para auditoria externa.
  • Avaliadores terão acesso de nível de funcionário para monitorar o alinhamento de modelos durante o treinamento.
  • A medida integra um plano de três etapas proposto pelo executivo para aumentar a segurança na indústria de IA.
  • O objetivo é garantir a verificação independente da adesão aos protocolos de segurança estabelecidos pela empresa.

A Anthropic anunciou um compromisso unilateral para conceder a avaliadores terceiros acesso permanente e de nível de funcionário aos seus sistemas de inteligência artificial. A iniciativa visa permitir que especialistas externos verifiquem, de forma independente, se a empresa está cumprindo rigorosamente seus protocolos de segurança e as diretrizes de alinhamento de modelos durante o processo de treinamento.

O anúncio foi feito pelo CEO da companhia, Dario Amodei, como parte de um plano de três etapas voltado para a governança do setor. Em um novo ensaio, o executivo defendeu que a indústria de IA de fronteira deve desacelerar o ritmo de desenvolvimento para priorizar a segurança. A medida busca estabelecer um padrão de transparência inédito, permitindo que avaliadores reportem incidentes e validem a integridade dos sistemas antes de sua implementação em larga escala.

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.