CEO da Anthropic propõe regulação de modelos de IA nos moldes da FAA
Dario Amodei defende auditorias rigorosas e autoridade governamental para bloquear o lançamento de modelos de IA que apresentem riscos de segurança.
Pontos principais
- A Anthropic propõe que o governo exija testes obrigatórios para riscos de cibersegurança, armas biológicas e perda de controle em modelos de fronteira.
- Modelos que falhem em critérios de segurança ou demonstrem autonomia perigosa poderiam ter seu lançamento bloqueado por órgãos reguladores.
- A empresa anunciou um aporte de US$ 350 milhões para pesquisar o impacto da tecnologia no mercado de trabalho e promover a requalificação profissional.
- O executivo sugere reformas em agências como a FDA para acelerar a aprovação de medicamentos descobertos por IA e defende a proibição de armas autônomas.
- Foram lançados os modelos Claude Fable 5 e Claude Mythos 5, este último com foco em capacidades avançadas de cibersegurança.
O CEO da Anthropic, Dario Amodei, defendeu a implementação de um marco regulatório rigoroso para o setor de inteligência artificial, comparando a necessidade de supervisão à atuação da FAA na aviação civil. A proposta sugere que o governo tenha autoridade legal para bloquear modelos de fronteira que não atendam a padrões de segurança contra riscos como ciberataques e armas biológicas. Além disso, Amodei defende reformas em órgãos como a FDA para agilizar inovações em saúde e a proibição de armas totalmente autônomas.
Paralelamente, a organização anunciou um investimento de US$ 350 milhões para analisar os efeitos da IA no mercado de trabalho, propondo políticas como seguro-salário para mitigar disrupções. O movimento coincide com o lançamento dos modelos Claude Fable 5 e Claude Mythos 5, reforçando a estratégia da empresa em equilibrar o avanço tecnológico com a governança e a responsabilidade social.
Comentários
Carregando comentários...