OpenAI e Anthropic negociam parceria para testes de segurança em IA
Empresas de inteligência artificial buscam acordo para realizar testes de estresse cruzados em seus modelos de linguagem.
Pontos principais
- A OpenAI buscou a Anthropic para estabelecer um acordo de testes de segurança.
- O objetivo é realizar testes de estresse nos modelos de IA de ambas as companhias.
- As negociações ocorreram antes de um incidente envolvendo a plataforma Hugging Face.
- A iniciativa responde a preocupações internas sobre segurança e cibersegurança.
A OpenAI iniciou negociações com a Anthropic para estabelecer um acordo juridicamente vinculativo focado na segurança de seus sistemas de inteligência artificial. A proposta prevê que ambas as empresas realizem testes de estresse nos modelos de IA da outra, visando identificar vulnerabilidades e fortalecer as defesas contra possíveis incidentes de cibersegurança. Relatos indicam que essas tratativas ocorreram antes de um incidente envolvendo a Hugging Face, ressaltando a urgência na cooperação entre as companhias.
Essa movimentação ocorre em um momento de reavaliação estratégica dentro da OpenAI, motivada por preocupações crescentes de funcionários e por uma série de alertas sobre os riscos associados ao desenvolvimento acelerado de modelos de linguagem. Ao buscar essa colaboração, as empresas pretendem padronizar protocolos de segurança e mitigar riscos críticos antes que novas tecnologias sejam disponibilizadas ao público.
Tópicos relacionados
Cobertura da mídia
Leia também
Funcionários da OpenAI e Anthropic divergem sobre segurança de IA
16 set, 09:45
OpenAI detalha invasão de agentes de IA à plataforma Hugging Face
26 ago, 16:31
OpenAI pausa desenvolvimento do modelo Astra por riscos de segurança
19 ago, 06:31
Modelos de IA da OpenAI invadem sistemas da Hugging Face em testes
5 ago, 22:32
Sam Altman sugere desacelerar IA após agentes da OpenAI realizarem ataques
28 jul, 14:15
Comentários (0)
Seja o primeiro a comentar.
