Casa Branca e Anthropic discutem normas de segurança para modelos de IA
Governo dos EUA e Anthropic colaboram para criar benchmarks de segurança e um framework padronizado para avaliar riscos em modelos de IA.
Pontos principais
- A parceria visa estabelecer critérios padronizados para medir a gravidade de falhas e vulnerabilidades em sistemas de IA.
- As negociações ocorrem após restrições de exportação que forçaram a suspensão dos modelos Fable 5 e Mythos 5 da Anthropic.
- O projeto foca em avaliar o impacto de 'jailbreaks' e a eficácia das salvaguardas contra ameaças à segurança nacional.
- O novo framework em desenvolvimento busca classificar a severidade de incidentes, facilitando a resposta a potenciais ameaças cibernéticas.
A administração do presidente Donald Trump e a Anthropic avançam nas negociações para definir um conjunto de normas e benchmarks voltados à segurança de modelos de inteligência artificial. O esforço conjunto busca estabelecer diretrizes claras para intervenções governamentais, focando na criação de um framework padronizado para classificar a severidade de falhas técnicas e vulnerabilidades, como 'jailbreaks'. A iniciativa ganha força após a imposição de controles de exportação que impactaram o portfólio da empresa, resultando na suspensão dos modelos Fable 5 e Mythos 5.
Este alinhamento técnico entre o Departamento de Comércio e a Anthropic reflete uma preocupação crescente com a governança de sistemas de alta capacidade. A padronização desses critérios é vista como um passo essencial para mitigar riscos à segurança nacional, garantindo que o desenvolvimento tecnológico ocorra dentro de parâmetros de controle aceitos pelo governo americano e facilitando a resposta rápida a ameaças cibernéticas.
Comentários
Carregando comentários...