Casa Branca e Anthropic discutem normas de segurança para modelos de IA

A administração do presidente Donald Trump e a Anthropic avançam nas negociações para definir um conjunto de normas e benchmarks voltados à segurança de modelos de inteligência artificial. O esforço conjunto busca estabelecer diretrizes claras para intervenções governamentais, focando na criação de um framework padronizado para classificar a severidade de falhas técnicas e vulnerabilidades, como 'jailbreaks'. A iniciativa ganha força após a imposição de controles de exportação que impactaram o portfólio da empresa, resultando na suspensão dos modelos Fable 5 e Mythos 5.

Este alinhamento técnico entre o Departamento de Comércio e a Anthropic reflete uma preocupação crescente com a governança de sistemas de alta capacidade. A padronização desses critérios é vista como um passo essencial para mitigar riscos à segurança nacional, garantindo que o desenvolvimento tecnológico ocorra dentro de parâmetros de controle aceitos pelo governo americano e facilitando a resposta rápida a ameaças cibernéticas.