OpenAI e Anthropic planejam usar avaliadores externos para modelos de IA
Empresas de IA propõem avaliações independentes e novas estruturas regulatórias para mitigar riscos e garantir a segurança dos modelos.
||
13/09 às 13:45
Pontos principais
- OpenAI e Anthropic planejam integrar avaliadores externos independentes em seus processos de desenvolvimento.
- Dario Amodei, da Anthropic, propôs um regime regulatório nacional e um pacto internacional para modelos de IA de alta capacidade.
- Elon Musk defendeu a criação de uma estrutura de autorregulação com revisão por pares entre empresas concorrentes.
- A Hugging Face manifestou interesse em atuar como uma entidade avaliadora neutra de terceiros.
- A proposta de Amodei inclui um pedido de isenção da Lei Sherman para permitir a coordenação entre laboratórios sem riscos antitruste.
A OpenAI e a Anthropic planejam implementar avaliadores externos independentes em seus modelos de inteligência artificial para mitigar riscos. Dario Amodei, da Anthropic, propôs um regime regulatório nacional e um pacto internacional, solicitando isenção da Lei Sherman para viabilizar a coordenação entre laboratórios. Paralelamente, Elon Musk defendeu uma estrutura de autorregulação com revisão por pares, enquanto a Hugging Face se colocou à disposição para atuar como uma entidade avaliadora neutra.
Comentários
Carregando comentários...
