Daily Journal
Daily Journal

OpenAI e Anthropic negociam parceria para testes de segurança em IA

Empresas de inteligência artificial buscam acordo para realizar testes de estresse cruzados em seus modelos de linguagem.

Daily Journal
||
21/09 às 11:32, atualizado 15:45

Pontos principais

  • A OpenAI buscou a Anthropic para estabelecer um acordo de testes de segurança.
  • O objetivo é realizar testes de estresse nos modelos de IA de ambas as companhias.
  • As negociações ocorreram antes de um incidente envolvendo a plataforma Hugging Face.
  • A iniciativa responde a preocupações internas sobre segurança e cibersegurança.

A OpenAI iniciou negociações com a Anthropic para estabelecer um acordo juridicamente vinculativo focado na segurança de seus sistemas de inteligência artificial. A proposta prevê que ambas as empresas realizem testes de estresse nos modelos de IA da outra, visando identificar vulnerabilidades e fortalecer as defesas contra possíveis incidentes de cibersegurança. Relatos indicam que essas tratativas ocorreram antes de um incidente envolvendo a Hugging Face, ressaltando a urgência na cooperação entre as companhias.

Essa movimentação ocorre em um momento de reavaliação estratégica dentro da OpenAI, motivada por preocupações crescentes de funcionários e por uma série de alertas sobre os riscos associados ao desenvolvimento acelerado de modelos de linguagem. Ao buscar essa colaboração, as empresas pretendem padronizar protocolos de segurança e mitigar riscos críticos antes que novas tecnologias sejam disponibilizadas ao público.

Tópicos relacionados

Cobertura da mídia

Leia também

Comentários (0)

Seja o primeiro a comentar.