Anthropic contrata pesquisador Nicholas Carlini para reforçar segurança de IA
O especialista Nicholas Carlini integra a Anthropic para mediar diálogos técnicos sobre segurança de IA com o governo dos EUA.
Pontos principais
- Nicholas Carlini, ex-crítico de riscos em IA, assume cargo técnico na Anthropic.
- O pesquisador ficou conhecido por alertar sobre vulnerabilidades no modelo Mythos em março.
- Carlini agora integra a equipe da empresa responsável por realizar briefings de segurança na Casa Branca.
- A contratação visa demonstrar a eficácia de salvaguardas em novos modelos perante reguladores.
- O movimento reflete a crescente colaboração entre empresas de tecnologia e o governo americano.
A Anthropic anunciou a contratação do pesquisador Nicholas Carlini, figura conhecida por seus alertas sobre riscos em sistemas de inteligência artificial, incluindo vulnerabilidades identificadas no modelo Mythos em março. O profissional, que anteriormente atuava como um crítico vocal das práticas do setor, assume agora um papel estratégico na empresa. Sua função principal envolve atuar como mediador técnico entre a Anthropic e reguladores governamentais, integrando a equipe responsável por realizar briefings na Casa Branca sobre a implementação de salvaguardas em novos modelos. A iniciativa reflete a crescente pressão por transparência e o envolvimento direto de empresas de tecnologia na definição de padrões de segurança. Ao integrar um especialista focado em riscos, a Anthropic busca mitigar preocupações regulatórias e demonstrar que seus produtos possuem mecanismos de proteção robustos para um lançamento seguro no mercado.
Tópicos relacionados
Comentários
Carregando comentários...