Anthropic contrata pesquisador Nicholas Carlini para reforçar segurança de IA
O especialista Nicholas Carlini integra a Anthropic para mediar diálogos técnicos sobre segurança de IA com o governo dos EUA.
Pontos principais
- Nicholas Carlini, ex-crítico de riscos em IA, assume cargo técnico na Anthropic.
- O pesquisador ficou conhecido por alertar sobre vulnerabilidades no modelo Mythos em março.
- Carlini agora integra a equipe da empresa responsável por realizar briefings de segurança na Casa Branca.
- A contratação visa demonstrar a eficácia de salvaguardas em novos modelos perante reguladores.
- O movimento reflete a crescente colaboração entre empresas de tecnologia e o governo americano.
A Anthropic anunciou a contratação do pesquisador Nicholas Carlini, figura conhecida por seus alertas sobre riscos em sistemas de inteligência artificial, incluindo vulnerabilidades identificadas no modelo Mythos em março. O profissional, que anteriormente atuava como um crítico vocal das práticas do setor, assume agora um papel estratégico na empresa. Sua função principal envolve atuar como mediador técnico entre a Anthropic e reguladores governamentais, integrando a equipe responsável por realizar briefings na Casa Branca sobre a implementação de salvaguardas em novos modelos. A iniciativa reflete a crescente pressão por transparência e o envolvimento direto de empresas de tecnologia na definição de padrões de segurança. Ao integrar um especialista focado em riscos, a Anthropic busca mitigar preocupações regulatórias e demonstrar que seus produtos possuem mecanismos de proteção robustos para um lançamento seguro no mercado.
Tópicos relacionados
Cobertura da mídia
A profile of Anthropic researcher Nicholas Carlini, who warned about Mythos in March and is now part of an Anthropic team briefing the White House on safeguards (Wall Street Journal)
Techmeme • 17 jun, 03:30
The Hacker Sent by Anthropic to Calm the Government’s Nerves About AI Safety
WSJ Tech • 16 jun, 22:00