CEO da Anthropic propõe regulação para o desenvolvimento de IA
Dario Amodei sugere avaliações independentes e coordenação entre laboratórios para frear riscos da inteligência artificial.
Pontos principais
- Dario Amodei defende a criação de avaliadores de segurança independentes para modelos de IA.
- A proposta inclui a coordenação entre laboratórios de tecnologia sediados em países democráticos.
- O plano enfrenta resistência de Jensen Huang, CEO da Nvidia, sobre o ritmo da inovação.
- Líderes do setor e cientistas como Geoffrey Hinton alertam para riscos existenciais da tecnologia.
O CEO da Anthropic, Dario Amodei, apresentou uma proposta estratégica para regular o avanço da inteligência artificial, defendendo o que chamou de 'ritmar a fronteira'. O plano sugere a implementação de avaliadores de segurança independentes e uma coordenação mais estreita entre laboratórios de IA localizados em países democráticos. A iniciativa busca mitigar os riscos existenciais associados ao desenvolvimento descontrolado da tecnologia, uma preocupação compartilhada por figuras como o Nobel Geoffrey Hinton.
Apesar do apoio de parte do setor, a proposta de Amodei encontrou resistência por parte de Jensen Huang, CEO da Nvidia. O debate ocorre em um momento em que governos, como o da Coreia do Sul, planejam iniciativas de acesso gratuito à IA, intensificando a pressão por diretrizes globais de segurança. A discussão central gira em torno de como equilibrar a inovação tecnológica acelerada com a necessidade de salvaguardas que protejam a humanidade contra possíveis falhas críticas nos sistemas de machine learning.
Tópicos relacionados
Cobertura da mídia
Comentários (0)
Seja o primeiro a comentar.