OpenAI e Anthropic negociam parceria para testes de segurança em IA
Empresas de inteligência artificial buscam acordo para realizar testes de estresse cruzados em seus modelos de linguagem.
Pontos principais
- A OpenAI buscou a Anthropic para estabelecer um acordo de testes de segurança.
- O objetivo é realizar testes de estresse nos modelos de IA de ambas as companhias.
- A iniciativa responde a preocupações internas sobre segurança e cibersegurança.
- As negociações ocorreram antes de recentes alertas públicos feitos por trabalhadores do setor.
A OpenAI iniciou negociações com a Anthropic para estabelecer um acordo juridicamente vinculativo focado na segurança de seus sistemas de inteligência artificial. A proposta prevê que ambas as empresas realizem testes de estresse nos modelos de IA da outra, visando identificar vulnerabilidades e fortalecer as defesas contra possíveis incidentes de cibersegurança.
Essa movimentação ocorre em um momento de reavaliação estratégica dentro da OpenAI, motivada por preocupações crescentes de funcionários e por uma série de alertas sobre os riscos associados ao desenvolvimento acelerado de modelos de linguagem. Ao buscar essa colaboração, as companhias pretendem padronizar protocolos de segurança e mitigar riscos críticos antes que novas tecnologias sejam disponibilizadas ao público.
Comentários
Carregando comentários...