Anthropic e Accenture firmam parceria de US$ 1 bilhão para avaliar IA
Empresas investirão US$ 1 bilhão ao longo de cinco anos para realizar avaliações independentes e testes de segurança em modelos avançados de IA.
Pontos principais
- A parceria estabelece a Accenture como a primeira avaliadora embutida da Anthropic.
- O investimento conjunto previsto é de, no mínimo, US$ 1 bilhão ao longo de cinco anos.
- A colaboração foca em testes de 'red teaming' e avaliações de alinhamento de modelos de fronteira.
- A iniciativa visa cumprir compromissos de transparência assumidos pela liderança da Anthropic.
- A Anthropic mantém conversas com a organização METR para integrar o processo de avaliação.
- O projeto é descrito como um dos compromissos de consultoria de maior risco da Accenture.
A Anthropic anunciou uma parceria estratégica com a Accenture voltada para a avaliação independente de seus modelos de inteligência artificial de fronteira. O acordo, que prevê um investimento conjunto de pelo menos US$ 1 bilhão ao longo dos próximos cinco anos, estabelece a consultoria como a primeira avaliadora embutida da empresa, focando em testes rigorosos de segurança e alinhamento.
Esta iniciativa busca atender a compromissos públicos da liderança da Anthropic em permitir que observadores externos analisem a segurança de seus sistemas mais poderosos. Além da Accenture, a companhia mantém diálogos com a organização sem fins lucrativos METR para ampliar a independência do processo, embora críticos ainda questionem a autonomia necessária para avaliações desse nível de complexidade em modelos de IA.
Tópicos relacionados
Cobertura da mídia
Anthropic anuncia parceria com Accenture para avaliar modelos avançados de IA
Times Brasil • 18 set, 20:30
Anthropic’s first embedded evaluator is … Accenture?
TechCrunch • 18 set, 18:44
Anthropic partners with Accenture to embed evaluators within Anthropic, including red teaming models and conducting alignment assessments (Anthropic)
Techmeme • 18 set, 18:01
Comentários (0)
Seja o primeiro a comentar.
