Independência de avaliador de IA da Anthropic é questionada
Cientista aponta conflitos de interesse financeiros entre a Anthropic e a organização de segurança METR, levantando dúvidas sobre sua imparcialidade.
Pontos principais
- O CEO da Anthropic, Dario Amodei, propôs o uso do METR como avaliador independente para testar a segurança de modelos de IA.
- O cientista Kevin Bass alega que o ecossistema de financiamento do METR está ligado a investidores da Anthropic, como Dustin Moskovitz.
- O METR afirma que não recebe pagamentos de laboratórios de IA e mantém políticas de independência, embora receba suporte de fundações filantrópicas.
- Estimativas indicam que participações acionárias ligadas a Moskovitz na Anthropic atingiram valor superior a US$ 7 bilhões.
- Críticos argumentam que a dependência financeira de organizações que apoiam o METR em relação ao sucesso da Anthropic cria um ciclo de incentivos.
- O METR anunciou recentemente um acordo de oito semanas para avaliar internamente os modelos da Anthropic.
- Kevin Bass solicitou uma investigação do Congresso dos EUA sobre as relações financeiras entre a empresa e o setor de segurança de IA.
A proposta do CEO da Anthropic, Dario Amodei, de utilizar o Model Evaluation and Threat Research (METR) como um auditor externo para sistemas de IA enfrenta um escrutínio crescente. O cientista Kevin Bass questionou a independência da organização, argumentando que o METR estaria inserido em uma rede de financiamento cujos doadores possuem interesses financeiros diretos no sucesso da Anthropic, incluindo participações acionárias bilionárias detidas por figuras como Dustin Moskovitz.
Embora o METR negue receber pagamentos diretos de laboratórios de inteligência artificial, a controvérsia destaca o desafio de estabelecer mecanismos de fiscalização imparciais em um setor altamente concentrado. O debate ganha relevância à medida que governos e reguladores buscam formas de garantir a segurança de modelos de fronteira sem que os avaliadores estejam subordinados aos interesses comerciais das empresas que deveriam fiscalizar.
Tópicos relacionados
Comentários
Carregando comentários...